TikTok zavádza čitateľnú označenie obsahu vytvoreného umelou inteligenciou
TikTok oznámil aktualizáciu svojej politiky obsahu s cieľom zvýšiť transparentnosť označovaním digitálne syntetizovaných médií. Používatelia budú teraz vedieť, či sledujú obsah vytvorený umelej inteligenciou, pretože nové metadáta sa aplikujú na fotografie a videá, aby označili ich pôvod z AI.
Pripravované skenovanie zvukového obsahu
Platforma pre zdieľanie videí nezastavuje iba pri vizuálnom obsahu; plány sú v pohybe na rozšírenie skenovania aj na audio súbory, aby sa uistili, že používatelia môžu identifikovať akúkoľvek časť obsahu, ktorá môže byť vytvorená umelou inteligenciou.
Prví na trhu s označovaním AI
TikTok sa etabloval ako inovatívna platforma v oblasti transparentnosti umelého inteligencie tým, že bol jedným z prvých sociálnych médií, ktoré zaviedli takéto zmeny. Využijú technológiu „content credentials“ vyvinutú koalíciou pre dôkazovanie obsahu a autenticitu (C2PA), ktorú tvoria hlavní technologickí partneri vrátane Adobe, Arm, Intel, Microsoft a Truepic.
Zvýšenie transparentnosti predstavuje prevahu nad technikami vodoznaku
Claire Leibowicz, ktorá vedie Oddelenie umelej inteligencie a integrácie médií v organizácii Partnership on AI (PAI) občianskej spoločnosti, zdôrazňuje, že „content credentials“ vedú k väčšej transparentnosti ako tradičné techniky vodoznakov.
Konzistentné s dlhodobou politikou
Zmluva používateľa TikToku už viac ako rok vyžaduje označovanie realistického obsahu AI, čo sa zhoduje s touto novou iniciatívou.
Pohyb priemyslu smerom k identifikácii AI
Rozhodnutie nasleduje predchádzajúce oznámenia technologických gigantov ako Meta a Google, čo naznačuje odvetvový trend smerujúci k stanoveniu technických noriem na identifikáciu AI-manipulovaných vizuálnych a zvukových efektov cez platformy, čo postupne zahŕňa video a audio.
Súvisiace skutočnosti:
– TikTok rýchlo rástol a je jednou z popredných sociálnych médií na globálnej úrovni, obzvlášť obľúbený medzi mladšími používateľmi pre krátkodobý videokontent.
– Nástup umelej inteligencie pri tvorbe obsahu zahŕňa „deepfake“ videá, ktoré sú hyperrealistické video a audio klipy, kde tvár alebo hlas osoby je nahradený niekým iným, čím vyvolávajú obavy o možné šírenie dezinformácií a digitálnu zosobášenú.
– Čitateľné označenie AI-vytvoreného obsahu podporuje digitálnu gramotnosť a pomáha používateľom rozlišovať medzi autentickým a syntetizovaným obsahom.
– Technológie AI sa stávajú čoraz sofistikovanejšími a schopnými generovať obsah, ktorý je niekedy na omyl neodlišiteľný od obsahu vytvoreného ľuďmi, čím sa identifikácia takéhoto obsahu stáva komplexnou výzvou.
Dôležité otázky a odpovede:
– Prečo TikTok označuje AI-vytvorený obsah? TikTok označuje AI-vytvorený obsah pre zvýšenie transparentnosti pre používateľov a informovanie ich o tom, kedy interagujú s obsahom, ktorý bol vytvorený alebo upravený AI.
– Ako sa nová politika TikToku prejaví na tvorcoch obsahu? Tvorcovia obsahu sa môžu musieť prispôsobiť zabezpečením, aby bol AI-generovaný alebo upravený obsah vhodne označený, čo môže ovplyvniť tvorivé procesy a spôsob, akým ich obsah vnímajú audience.
Kľúčové výzvy alebo kontroverzie:
– Výzva efektívnej implementácie: Zabezpečenie presného označenia všetkého AI-generovaného obsahu môže byť náročné vzhľadom na veľké množstvo používateľmi vytvoreného obsahu na TikToku.
– Problémy súkromia a deepfake: Existuje obava, že technológia AI môže byť použitá na vytváranie zavádzajúceho alebo škodlivého obsahu, ako sú deepfake videá, a označovanie nemusí úplne riešiť etické a súkromné problémy spojené s tým.
Výhody a nevýhody:
– Výhody:
– Používatelia môžu urobiť informovanejšie rozhodnutia o obsahu, ktorý konzumujú.
– Podporuje transparentnosť a digitálnu gramotnosť v boji proti šíreniu dezinformácií.
– Mohlo by to stanoviť precedens pre iné platformy, aby zvýšili úsilie v identifikácii AI obsahu.
– Nevýhody:
– Systém nemusí zachytiť všetok AI-vytvorený obsah, čo vedie k medzerám v transparentnosti.
– Niektorí tvorcovia obsahu môžu mať pocit, že označovanie AI obsahu môže znížiť zapojenie s ich obsahom.
– Môžu nastať falošné pozitíva, kde obsah vytvorený ľuďmi je mylne označený ako AI-generovaný.
Súvisiace odkazy s požadovaným formátom (predpokladajúc, že tieto URL adresy sú platné a relevantné podľa znalostnej odseky do marca 2023):
– TikTok
– Coalition for Content Provenance and Authenticity (C2PA)
– Partnership on AI (PAI)