U važnom koraku za povećanje transparentnosti, TikTok je 9. svibnja objavio da je počeo označavati slike i videozapise stvorene pomoću umjetne inteligencije (AI) unutar svoje aplikacije. AI-generirani sadržaj sada će nositi eksplicitne oznake kako bi se njegovo podrijetlo jasno naznačilo gledateljima. Ova promjena se proširuje na sadržaj stvoren izvan aplikacije, ali podijeljen unutar njenog ekosustava, koristeći značajku digitalnog vodenog žiga za praćenje.
TikTok, platforma poznata po svojem kratkom video sadržaju, poboljšava sigurnost i vjerodostojnost korisnika označavanjem AI-generiranih objava. Odluka ima za cilj borbu protiv obmanjujućeg sadržaja koji imitira autentični materijal bez oznaka.
Voditelj odjela za poslovanje, povjerenje i sigurnost TikToka, Adam Presser, podijelio je u intervjuu da platforma ima stroge smjernice protiv neoznačenog AI sadržaja koji detaljno sliči stvarnome. Svi postovi koji prekrše ta pravila tako što nisu ispravno označeni bit će uklonjeni jer krše smjernice zajednice TikToka.
Uvođenje ove politike od strane TikToka istiće važnost svijesti korisnika u doba naprednih alata za stvaranje sadržaja, osiguravajući da se kultura povjerenja i autentičnosti potiče na digitalnoj platformi.
Povezane prednosti označavanja AI na TikToku:
– Svijest korisnika: Implementacijom oznaka AI, korisnici lako mogu razlikovati između autentičnog sadržaja generiranog od strane korisnika i AI-generiranog sadržaja, povećavajući transparentnost informacija koje konzumiraju.
– Integritet platforme: Sustav označavanja pomaže u održavanju integriteta platforme borbom protiv lažnog i zavaravajućeg sadržaja, što je posebno važno u doba kada deepfakeovi i sintetički mediji postaju sve učestaliji.
– Sigurnost i povjerenje: Označavanje AI-generiranog sadržaja može pomoći u izgradnji povjerenja s korisničkom bazom pokazujući da platforma poduzima proaktivne korake u rješavanju potencijalnih dezinformacija.
Ključni izazovi ili kontroverze povezane s označavanjem AI:
– Provjera provedbe: Glavni izazov je osigurati točno identificiranje i označavanje svih AI-generiranih sadržaja, što može zahtijevati značajne resurse i naprednu tehnologiju otkrivanja.
– Taktike bijega: Mogu postojati pokušaji izbjegavanja otkrivanja od strane onih koji žele širiti dezinformacije, što vodi u stalnu borbu između zlonamjernih aktera i provedbe platforme.
– Definiranje AI sadržaja: Kako AI postaje sve sofisticiraniji, razlikovanje između sadržaja koji bi trebao biti označen kao AI-generiran i onog koji ne bi mogao postati složeno i sporno.
Nedostaci označavanja AI na TikToku:
– Netočni rezultati: AI sustavi mogu napraviti pogreške, dovodeći do krivog označavanja ili propuštanja AI-generiranog sadržaja, što može uzrokovati nepotrebnu zabrinutost korisnika ili propuštanje zavaravajućeg sadržaja.
– Korisničko iskustvo: Neki korisnici mogu smatrati stalno označavanje napadnim ili štetnim za imerzivno iskustvo platforme, što može utjecati na angažman s sadržajem.
– Potencijalna nesporazumijevanja: Prisutnost oznake AI može izazvati zbunjenost ili dovesti do neutemeljenog nepovjerenja prema sadržaju koji je benigni ili kreativno legitimni ako korisnici nisu jasno razumjeli što oznaka implicira.