Demokracija se suočava s nijansiranom prijetnjom kako se tehnike umjetne inteligencije, posebno one sposobne generiranja uvjerljivih ljudski sličnih tekstova, slika i videa, sve više koriste u izborima i javnom diskursu. Dok se svijet priprema za godinu u kojoj će preko 40% globalne populacije dati svoj glas, zabrinutost među vladinim dužnosnicima tiho tinja zbog navodno neopazivog neprijatelja AI.
Za razliku od iznenađujućeg ne-događaja AI-om izazvanog kaosa u nedavnim izborima u Indoneziji i Pakistanu, sve veće priznavanje potencijala tehnologije za suptilnije miješanje. Strahovi još nisu prerasli u primjetne posljedice, ali primjeri poput generativnih AI alata koji masovno proizvode malo različite poruke čine ih teže uočljivima, slično visokotehnološkoj verziji uvjerljivih kampanja koje su mučile društvene medijske platforme u prošlosti.
Suptilnost AI-generirane dezinformacije leži u njenoj raznolikosti, kako je primijetio Josh Lawson, bivši upravitelj rizika u tvrtki Meta Platforms Inc., sada savjetnik za strategije društvenih medija. Dok se veći dio diskusije o AI usredotočio na deepfakeove i vizuale, Lawson ističe da su kampanje dezinformacija na temelju teksta puno razmjernije i teže za pratiti.
Metaova WhatsApp potencijalno olakšava takve operacije zahvaljujući značajkama poput “Kanala” koji mogu emitirati poruke velikom broju ljudi. To omogućuje čak i manje sofisticiranim akterima širenje dezinformacija, poput lažnog obavještavanja zajednica o uvjetima na biračkim mjestima kako bi se potisnula izlaznost birača.
Širi utjecaj na društvo uključuje i opću javnost, jer preko polovice Amerikanaca i četvrtina britanskih građana već eksperimentiraju s AI alatima. Ta demokratizacija tehnologije znači da obični pojedinci mogu nehotice postati nositelji dezinformacija.
U pokušaju suočavanja s tim izazovima, Meta je počela označavati AI-generirani sadržaj na Facebooku i Instagramu, iako ova strategija nosi rizik stvaranja lažnog osjećaja sigurnosti gdje se pretpostavlja da je neoznačen sadržaj autentičan.
Štoviše, platforme za razmjenu poruka poput WhatsApp-a mogu postati ključna bojišta za AI-pokretane dezinformacije, kao što je viđeno na brazilskim izborima 2018. jasnije politike sadržaja mogle bi osnažiti tvrtke poput Meta da proaktivno se bore protiv zloupotrebe AI u izbornim miješanjima, slično specifičnim politikama koje su na snazi za Facebook i Instagram koje se bave manipulacijom birača.
Kako se linija između sintetičke buke i značajnog signala zamagljuje, tehnološke tvrtke i dužnosnici moraju ostati oprezni. Odsustvo otvorenih AI poremećaja na izborima ne signalizira sigurnost; naprotiv, naglašava hitnost pripreme pred diskretnim, ali moćnim protivnikom.
Važna pitanja i odgovori:
1. Kako AI-pokretane kampanje dezinformacija mogu utjecati na izborni sustav?
AI kampanje dezinformacija mogu utjecati na izborne sustave širenjem lažnih informacija u velikom opsegu, podrivajući povjerenje javnosti u izborni proces, manipulirajući javno mnijenje i čak potiskujući izlaznost birača.
2. Koje mjere poduzimaju društvene medijske tvrtke kako bi se suprotstavile toj prijetnji?
Tvrtke poput Meta pokreću radnje poput označavanja AI-generiranog sadržaja na svojim platformama kako bi informirale korisnike, izrađujući jasnije politike sadržaja i upotrebljavajući napredne algoritme za otkrivanje i blokiranje zlonamjernih aktivnosti.
3. Je li moguće detektirati AI-generiranu dezinformaciju?
AI-generirana dezinformacija može biti teška za detekciju zbog mogućnosti stvaranja raznolikog i ljudski sličnog sadržaja, ali napredak u digitalnoj forenzici poboljšava sposobnosti otkrivanja.
Ključni izazovi i kontroverze:
Izazovi:
– Razvijanje tehnologije koja će pratiti razvijenu sofisticiranost AI-generiranog sadržaja.
– Provodjenje propisa na globalnoj razini s obzirom na to da internet nema granica.
– Balansiranje potrebe slobode govora s imperativom sprječavanja širenja lažnih informacija.
Kontroverze:
– Eticka upotreba AI i kako spriječiti njezinu zloupotrebu bez kršenja privatnosti i prava.
– Odgovornost društvenih medijskih platformi u moderiranju sadržaja i opseg njihovog intervencionizma.
– Potencijalne pristranosti u AI algoritmima koje bi mogle utjecati na otkrivanje dezinformacija.
Prednosti i nedostaci:
Prednosti:
– AI se može koristiti za učinkovito otkrivanje i suzbijanje kampanja dezinformacija ako je odgovarajuće obučena.
– Društvene mreže imaju pristup obimnim podacima kako bi fino podešavali takve obrambene AI algoritme.
– Javna svijest o AI dezinformacijama može se povećati, potičući razboritiju publiku.
Nedostatci:
– Tehnologija AI lako se može pretvoriti u alat za širenje dezinformacija.
– Potrebna je stalna budnost i ažuriranje kako bi se pratile metode dezinformacija koje je osmislio AI.
– Potencijalno preveliko oslanjanje na otkrivanje AI-om može dovesti do lažnog osjećaja sigurnosti.
Predloženi povezani linkovi za daljnje čitanje mogli bi biti prema web stranicama glavnih društvenih medijskih platformi i organizacija koje proučavaju AI i dezinformacije, poput:
– Meta Platforms Inc.
– AI Global
– Freedom House
Imajte na umu da ne mogu pretraživati internet, stoga dok su ovi URL-ovi ispravno oblikovani, uvijek provjerite jesu li 100% valjani prije upotrebe.
The source of the article is from the blog tvbzorg.com