TikTok, priljubljena platforma za družbena omrežja, je nedavno potrdila zavezanost k transparentnosti uporabnikov s predstavitvijo novega označevalnega sistema. Vsebina, ki jo ustvarja umetna inteligenca na njihovi platformi, bo zdaj imela značilen oznak, da se prepreči morebitno zmedo ali zavajanje med uporabniki. Razvoj avtentičnosti vsebine je postal pomembna zadeva ob prihodu generativnih vmesnikov AI, ki so sposobni ustvarjati besedilno, slikovno in video vsebino na podlagi preprostih naravnih jezikovnih zahtev.
Ta odločitev TikToka, ki ga lasti kitajsko podjetje ByteDance, cilja na obravnavanje naraščajoče skrbi zaradi globokih ponaredkov – naprednih tehnik, ki izdelujejo zvočne ali video posnetke dogodkov, ki se v resnici nikoli niso zgodili. TikTokova iniciativa označevanja vsebine, ustvarjene z AI, kadar jo prenesemo iz specifičnih virov, je korak v smeri omilitve zavajajočih učinkov, ki jih lahko ima takšna tehnologija.
Čeprav podrobnosti niso bile razkrita, je TikTok nakazal sodelovanje s podjetji, kot sta Google, OpenAI, Adobe in Microsoft, ki so vsi del ‘Coalition for Content Provenance and Authenticity’ (C2PA), ustanovljenega leta 2021, za spodbujanje transparentnosti virov in avtentičnosti v digitalnih medijih.
Veliki tehnološki giganti, kot so OpenAI, Adobe in Microsoft, so že sprejeli avtomatske oznake za vsebino, ustvarjeno z AI, pri čemer je Google uvedel podobno funkcijo. Nasprotno, Meta, drug pomemben igralec pri generativnem AI, ki ni član C2PA, je razkril, da bo označil vsebino, prepoznano kot izdelano z AI.
TikTok je v četrtek napovedal svojo nameravno, da se pridruži C2PA in drugi iniciativi, ‘Content Authenticity Initiative’ (CAI), ki jo vodi Adobe. TikTokov izvršni direktor je izrazil pomen preglednosti za svoje uporabnike, medtem ko je glavni pravni svetovalec Adoba poudaril nujnost načinov za razlikovanje pristne vsebine v času, ko je digitalno spreminjanje pogosto.
Podpora temu preglednemu pristopu, TikTok je že septembra lansiral svoje lastno orodje AI ‘TikTok AI’, ki označuje urejeno vsebino. Poleg tega podjetje načrtuje izdajo spletnih izobraževalnih videoposnetkov, ki pojasnjujejo njihovo metodologijo pri reševanju avtentičnosti vsebine.
Ključna vprašanja in odgovori:
Vprašanje: Kaj so globoki ponaredki in zakaj so pomembni v tem kontekstu?
Odgovor: Globoki ponaredki so visoko realistične in prepričljive digitalne manipulacije zvoka ali videa, ki naredijo, da se zdi, kot da nekdo izvaja ali govori nekaj, kar v resnici ni. Pomembni so v tem kontekstu zato, ker je TikTok kot platforma za deljenje video vsebine dovzeten za širjenje globokih ponaredkov, kar lahko privede do dezinformacij in škode za ugled posameznikov.
Ključni izzivi ali kontroverze:
Glavni izziv je uravnoteženje zaščite uporabnikov pred zavajajočo vsebino z ohranjanjem ustvarjalne svobode, ki jo zagotavljajo platforme, kot je TikTok. Poleg tega obstajajo kontroverze okoli cenzure, saj se nekateri uporabniki morda počutijo, da označevanje ali reguliranje vsebine posega v njihov izraz. Uresničevanje učinkovitih AI odkrivanja in označevanja sistemov, ki natančno identificirajo vsebino brez oviranja zakonite rabe, je še en tehnični izziv.
Prednosti TikTokove odločitve:
– Preglednost: Uporabniki bodo imeli jasnejše razumevanje, katera vsebina je ustvarjena z AI.
– Izobraževanje: Iniciativa vključuje izobraževalne videoposnetke, ki obveščajo uporabnike o naravi digitalne vsebine.
– Zaupanje: Morda bo povečalo zaupanje uporabnikov z vednostjo, da se platforma aktivno spopada s problemom dezinformacij.
– Standardi: Pripomore k postavitvi industrijskih standardov glede uporabe vsebin, ustvarjenih z AI.
Slabosti TikTokove odločitve:
– Izvedba: Pravilno določanje vseh vsebin, ustvarjenih z AI, hitro predstavlja tehnološki izziv.
– Učinkovitost: Označbe morda ne bodo ustavile širjenja zavajajoče vsebine, saj jo uporabniki lahko prezrejo.
– Svoboda: Kritiki lahko trdijo, da omejuje ustvarjalno svobodo ustvarjalcev vsebin.
Predlagane povezave:
Za dodatne informacije o globokih ponaredkih in AI v digitalnih medijih lahko obiščete naslednje povezave:
– Coalition for Content Provenance and Authenticity (C2PA): C2PA
– Content Authenticity Initiative (CAI): CAI
– Spletna stran podjetja TikTok: TikTok
– OpenAI, vodilno podjetje na področju AI: OpenAI
– Adobe AI in digitalna orodja za medije: Adobe
– Microsoftove iniciative za AI: Microsoft
– Googlove smernice in orodja za AI: Google
– Meta in njihov pristop k AI: Meta