TikTok sa zaviazal k posilneniu transparentnosti tým, že zaviedol automatické označovanie videí vytvorených pomocou nástrojov umelej inteligencie (AI). Akýkoľvek obsah na platforme, ktorý bol generovaný pomocou AI, vrátane materiálu vytvoreného s pokročilými službami AI ako napríklad DALL·E 3 od OpenAI, bude teraz označený štítkom „AI-generated“, čím sa zaručí, že používatelia budú informovaní o pôvode obsahu.
Tento krok je strategickou súčasťou zavádzania TikToku Content Credentials vyvinutých Coalíciou pre pôvod a autenticitu obsahu (C2PA), spolupracujúcou technologickou iniciatívou zahŕňajúcou ťažkých váh ako Microsoft a Adobe. S touto novou technológiou budú k každému videu pridané metadáta, čo umožní platforme identifikovať a automaticky označovať videá vytvorené pomocou AI.
Ako funguje nové označovanie pôjde za rámec interných AI efektov TikToku. Videá vytvorené pomocou externých služieb, ktoré podporujú akreditáciu obsahu C2PA, ako napríklad Bing Image Creator od Microsoftu a vyššie spomínaný DALL·E 3, budú tiež označené adekvátne.
Táto iniciatíva vzniká v dobe, keď hlavní technologickí hráči, vrátane Google, vyjadrujú podporu štandardizácii takýchto poverení. V priebehu nasledujúcich mesiacov plánuje TikTok ďalej integrovať Content Credentials do svojej platformy pre obsah vytvorený priamo pomocou vlastných AI efektov.
Podrobné metadáta spojené s obsahom vytvoreným pomocou AI poskytnú informácie o tom, ako a kde bol obsah vytvorený alebo editovaný, pričom cieľom je udržať prepojenie s obsahom aj po jeho stiahnutí používateľmi, zabezpečujúc trvávú transparentnosť na celom zdielanom mediálnom prostredí platformy.
Kľúčové Otázky a Odpovede:
1. Čo bolo impulzom pre rozhodnutie TikToku pridať označenia obsahu vytvoreného AI?
Rozhodnutie TikToku pridať označenia obsahu vytvoreného AI je pravdepodobne odpoveďou na širšiu diskusiu a obavy týkajúce sa deepfake, dezinformácií a transparentnosti pôvodu obsahu. Označením AI-vytvoreného obsahu si TikTok zasadal poskytnúť používateľom okamžitý odhad povahy obsahu, s ktorým interagujú.
2. Ako TikTok určuje, ktorý obsah označovať ako AI-vytvorený?
Obsah bude označený ako AI-generovaný na základe metadát, ktoré identifikujú, či boli pre jeho vytvorenie použité nástroje a služby AI, vrátane interných AI efektov TikToku alebo externých služieb z rámca C2PA ako napríklad DALL·E 3.
3. Aké sú dôsledky pre tvorcov obsahu a používateľov?
Pre tvorcov obsahu systém označovania pridáva vrstvu zodpovednosti a transparentnosti do tvorivého procesu. Používatelia profitujú zlepšením informovanosti o pôvode obsahu, čo môže ovplyvniť ich dôveru a vnímanie obsahu.
Kľúčové Výzvy a Kontroverzie:
– Štandardizácia: Zabezpečenie širokej akceptácie štandardov C2PA medzi rôznymi platformami je náročné a vyžaduje spoluprácu celej priemyslovej odvetvia.
– Efektívnosť a Presnosť: Možnosť systému zle označovať alebo nesprávne označovať obsah vyvoláva obavy týkajúce sa spoľahlivosti označení.
– Súkromie: Implementácia takýchto systémov zahŕňa správu citlivých metadát, čo môže vytvoriť problémy s ochranou osobných údajov alebo mať nezamýšľané dôsledky v prípade zneužitia alebo hacknutia.
– Vnímanie Používateľov: Spôsob, akým používatelia vnímajú a možno stigmatizujú obsah vytvorený pomocou AI kvôli označeniu, môže ovplyvniť pripravenosť tvorcov obsahu využívať nástroje AI.
Výhody:
– Transparentnosť a Dôvera: Jasné označenie môže podnietiť transparentnejšie prostredie, budovať dôveru u používateľov, ktorí chcú poznať pôvod obsahu.
– Boj s Dezinformáciami: Označenia môžu pomôcť zmierniť šírenie dezinformácií upozornením používateľov na syntetickú povahu obsahu.
Nevýhody:
– Prílišná závislosť na Označení: Používatelia si môžu príliš veľa záležať na označeniach, potenciálne prehliadajúc obsah bez označenia, ktorý môže byť tiež zavádzajúci alebo nepresný.
– Chyby v Označení: Falošne pozitívne alebo negatívne označenia môžu spôsobiť zmätok a znížiť dôveryhodnosť systému.
Pre ďalšie informácie o širších snahách týkajúcich sa autenticity obsahu môžete navštíviť hlavné stránky zapojených spoločností a iniciatív: