TikTok unapređuje zaštitu korisnika pomoću AI oznaka sadržaja
Popularna društvena mreža TikTok objavila je da će koristiti novu tehnologiju kako bi označavala i otkrivala AI-generirane slike i videozapise koji su učitani na njezinu uslugu. Inicijativa, prikladno nazvana “Informacije o autentičnom sadržaju”, osmišljena je kako bi provjerila je li određeni sadržaj stvoren ili izmijenjen pomoću AI alata.
Meta uvodi oznake sadržaja na svim glavnim društvenim mrežama
Počevši od svibnja, Meta, matična tvrtka iza teškaša poput Instagrama, Threads-a i Facebooka, počela je označavati AI-generirane videozapise, slike i audiozapise na ovim platformama. S ciljem smanjenja rizika od dezinformacija, Meta je uvela istaknute oznake za sadržaj koji bi mogao biti krivo shvaćen unutar online zajednica. Ovi napori odgovor su na zahtjeve nadzornog odbora za moderaciju sadržaja tvrtke Meta, koji je tražio ponovnu procjenu pristupa tvrtke uređenom sadržaju s obzirom na brzorastuće mogućnosti AI-ja i širenje deepfakeova.
YouTube i OpenAI adresiraju zabrinutosti zbog deepfakeova
YouTube je postavio obvezne propise kojima se traži od kreatora da otkriju kada su videozapisi proizvedeni pomoću AI-ja, omogućavajući platformi da takav sadržaj označi u skladu s tim. Nadalje, OpenAI, tvorac ChatGPT-a, razvija alat koji pomaže korisnicima identificirati AI-generirane slike. Uz Microsoft, OpenAI također uspostavlja fond od 2 milijuna dolara usmjeren na suzbijanje prijevara povezanih s izborima.
Ujedinjeni tehnološki sporazum za borbu protiv izborne prijevare
U veljači je konzorcij od 20 tehnoloških tvrtki, uključujući OpenAI, Microsoft i Stability AI, potpisao sporazum kako bi spriječio da AI-stvoren sadržaj utječe na izbore. Nazvan “Tehnološki sporazum za suzbijanje AI prijevare na izborima 2024.”, ove tvrtke obećale su se pridržavati načela usmjerenih na smanjenje rizika od zavodljivog AI sadržaja na izborima, otkrivanje i zaustavljanje distribucije takvog sadržaja te održavanje transparentnosti o naporima u uređivanju sadržaja.
Američka vlada trenutno nema savezne propise koji ciljaju AI specifično, iako primjena AI-a u raznim sektorima mora biti u skladu s postojećim zakonima. Ipak, američki zakonodavci sve više se usredotočuju na zakonodavstvo o AI-ju i istraživanje sveobuhvatnih regulatornih okvira.
Dodavanje relevantnih činjenica o temi velikih tehnoloških tvrtki koje unaprijeđuju monitoring AI sadržaja za izbore 2024. u SAD-u, trebalo bi razmotriti:
– Širenje dezinformacija i lažnih vijesti bilo je značajan problem u nedavnim izborima, pri čemu su društvene mreže korištene za širenje namjerno zavaravajućeg sadržaja.
– Velike tehnološke tvrtke su se suočile s kritikama zbog svoje uloge u dopuštanju širenja lažnih informacija, što je dovelo do zajedničkog napora za poboljšanje praksi i tehnologija uređivanja sadržaja.
– Razvoj i implementacija AI u uređivanju sadržaja može pomoći u identificiranju i označavanju potencijalno štetnih ili zavaravajućih informacija učinkovitije nego što to mogu učiniti ljudski moderatori zbog velike količine sadržaja.
– Pojavljuju se etički i privatnostčnite nedoumice s povećanom upotrebom AI-a, budući da on potencijalno dopušta veće nadziranje i prikupljanje podataka o pojedincima.
Ključna pitanja i uvidi obuhvaćaju:
Koliko je učinkovit AI u identificiranju deepfakeova i lažnih informacija?
AI tehnologija rapidno napreduje i postaje sve bolja u otkrivanju manipuliranog sadržaja. Međutim, kreatori deepfakeova i lažnih informacija također koriste AI za poboljšanje svojih taktika, dovodeći do stalne utrke između otkrivanja i prijevare.
Koje su implikacije za slobodu govora?
Stroženje nadzora nad sadržajem može izazvati zabrinutost oko cenzure i suzbijanja legitimnog govora. Izazov leži u postizanju balansa između borbe protiv dezinformacija i održavanja načela slobodnog izražavanja.
Može li AI sustav za uređivanje sadržaja pratiti razvijeni pejzaž?
Neprestano razvijanje sofisticiranijih deepfakeova i AI-generiranog sadržaja testirat će granice postojećih i budućih alata za uređivanje AI sadržaja.
Prednosti pojačanog monitoringa AI sadržaja uključuju:
– Brže i na većoj razini otkrivanje zavaravajućih ili lažnih informacija u usporedbi s onim što je ostvarivo samo putem ljudskog moderiranja.
– Mogućnost označavanja i smanjenja širenja štetnog sadržaja prije nego što postane viralno.
– Unapređenje integriteta izbora minimaliziranjem utjecaja zavaravajućeg sadržaja.
Nedostaci mogu uključivati:
– Izazov postavljanja definitivnih parametara za AI sustave kako bi razlikovali između lažnih i kontroverznih ali legitimnih sadržaja.
– Rizik pretjerivanja i moguće kršenje privatnosti i slobode govora.
– Potencijal za protivnike da se prilagode metodama nadzora AI sadržaja i pronađu nove načine zaobići ove sustave.
S obzirom na to da je niz velikih tehnoloških tvrtki izravno uključen u unapređivanje monitoringa AI sadržaja, posebno relevantne veze bile bi do njihovih glavnih stranica, gdje možete istražiti njihove inicijative i izjave koje se odnose na uređivanje sadržaja i uporabu AI-ja dalje:
– Meta (Facebook)
– TikTok
– YouTube
– OpenAI
– Microsoft
Uključenost američke vlade i zakonodavaca u zakonodavstvo o AI i moguće stvaranje regulatornog okvira za nadzor tih tehnologija značajan je korak prema rješavanju ovih izazova.