TikTok, popularna platforma za društvene mreže, nedavno je potvrdila svoju predanost transparentnosti korisnika najavom novog označavanja sustava. Sadržaj generiran umjetnom inteligencijom na njihovoj platformi sada će imati karakterističnu oznaku kako bi spriječila moguću konfuziju ili zavaravanje među svojim korisnicima. Razvoj autentičnosti sadržaja postao je značajan problem s dolaskom generativnih sučelja umjetne inteligencije, sposobnih za stvaranje tekstova, slika i video sadržaja iz jednostavnih zahtjeva prirodnom jeziku.
Odluka TikToka, u vlasništvu kineske tvrtke ByteDance, ima za cilj rješavanje rastuće zabrinutosti zbog “deepfake” tehnika – sofisticiranih tehnika koje fabriciraju audio ili video isječke prikazujući događaje koji se nikada nisu zapravo dogodili. TikTokova inicijativa označavanja AI-generiranog sadržaja prilikom preuzimanja s određenih izvora korak je prema suzbijanju zavaravajućih učinaka koje takve tehnologije mogu imati.
Iako dodatni detalji nisu otkriveni, TikTok je nagovijestio svoju suradnju s entitetima poput Googlea, OpenAI-a, Adobe-a i Microsoft-a, svi dio ‘Saveza za provenijenciju i autentičnost sadržaja’ (C2PA), osnovanog 2021., kako bi promovirali transparentnost izvora i autentičnost digitalnih medija.
Tehnološki divovi poput OpenAI-a, Adobe-a i Microsoft-a već su usvojili automatske oznake za AI-generirani sadržaj, dok Google implementira sličnu značajku. Nasuprot tome, Meta, drugi važan akter u generativnoj AI koji nije član C2PA, također je otkrio da će označiti sadržaj identificiran kao AI-stvoren.
TikTok je u četvrtak najavio namjeru pridruživanja C2PA-i drugoj inicijativi, ‘Inicijativi autentičnosti sadržaja’ (CAI) koju predvodi Adobe. Operativni direktor TikToka komunicirao je važnost transparentnosti za svoje korisnike, dok je glavni pravni savjetnik Adobea istaknuo nužnost prepoznavanja pravog sadržaja u doba gdje je digitalna modifikacija učestala.
Podržavajući ovaj transparentni pristup, TikTok je u rujnu lansirao svoj vlastiti alat umjetne inteligencije ‘TikTok AI’, koji označava uređeni sadržaj. Osim toga, tvrtka planira objaviti online obrazovne videozapise kako bi objasnila svoju metodologiju u vezi s autentičnošću sadržaja.
Ključna pitanja i odgovori:
P: Što su deepfake snimke i zašto su bitne u ovom kontekstu?
O: Deepfake snimke su visoko realistične i često uvjerljive digitalne manipulacije audio ili video materijala koje čine da osoba izgleda kao da govori ili radi nešto što zapravo nije. Bitne su u ovom kontekstu jer je TikTok, kao platforma za dijeljenje video sadržaja, podložan širenju deepfake snimki, što može dovesti do dezinformacija i nanošenja štete reputaciji pojedinaca.
Ključni izazovi ili kontroverze:
Glavni izazov je postizanje ravnoteže između zaštite korisnika od dezinformacija i očuvanja kreativne slobode koju platforme poput TikToka pružaju. Dodatno, postoje kontroverze oko cenzure, budući da neki korisnici smatraju da označavanje ili reguliranje sadržaja krše njihov izražaj. Implementacija učinkovitih sustava za detekciju i označavanje pomoću AI-a koji točno identificiraju sadržaj bez ometanja legitimne uporabe još je jedan tehnički izazov.
Prednosti TikTokove odluke:
– Transparentnost: Korisnici će imati jasnije razumijevanje koji je sadržaj generiran AI-om.
– Obrazovanje: Inicijativa uključuje obrazovne videozapise koji informiraju korisnike o prirodi digitalnog sadržaja.
– Povjerenje: Može povećati povjerenje korisnika znajući da se platforma aktivno bavi pitanjem dezinformacija.
– Standardi: Pridonosi postavljanju industrijskih standarda u vezi s korištenjem AI-generiranog sadržaja.
Mane TikTokove odluke:
– Implementacija: Točno identificiranje svog AI-generiranog sadržaja brzo je tehnološki izazovno.
– Učinkovitost: Oznake možda neće zaustaviti širenje zavaravajućeg sadržaja jer bi korisnici mogli ignorirati oznake.
– Sloboda: Kritičari mogu tvrditi da to ograničava kreativnu slobodu tvoraca sadržaja.
Povezane predložene poveznice:
Za dodatne informacije o deepfake snimkama i AI-u u digitalnim medijima, posjetite sljedeće poveznice:
– Koalicija za provenijenciju i autentičnost sadržaja (C2PA): C2PA
– Inicijativa autentičnosti sadržaja (CAI): CAI
– Web stranica tvrtke TikTok: TikTok
– OpenAI, lider u tehnologiji AI-a: OpenAI
– Adobe-ovi alati za AI i digitalne medije: Adobe
– Inicijative Microsofta u vezi s AI-jem: Microsoft
– Principi i alati Google AI-a: Google
– Meta i njihov pristup AI-u: Meta