Globalni izborni sustavi pripremaju se za izazove dezinformacija umjetne inteligencije.

Demokracija se suočava s nijansiranom prijetnjom kako se tehnike umjetne inteligencije, posebno one sposobne generiranja uvjerljivih ljudski sličnih tekstova, slika i videa, sve više koriste u izborima i javnom diskursu. Dok se svijet priprema za godinu u kojoj će preko 40% globalne populacije dati svoj glas, zabrinutost među vladinim dužnosnicima tiho tinja zbog navodno neopazivog neprijatelja AI.

Za razliku od iznenađujućeg ne-događaja AI-om izazvanog kaosa u nedavnim izborima u Indoneziji i Pakistanu, sve veće priznavanje potencijala tehnologije za suptilnije miješanje. Strahovi još nisu prerasli u primjetne posljedice, ali primjeri poput generativnih AI alata koji masovno proizvode malo različite poruke čine ih teže uočljivima, slično visokotehnološkoj verziji uvjerljivih kampanja koje su mučile društvene medijske platforme u prošlosti.

Suptilnost AI-generirane dezinformacije leži u njenoj raznolikosti, kako je primijetio Josh Lawson, bivši upravitelj rizika u tvrtki Meta Platforms Inc., sada savjetnik za strategije društvenih medija. Dok se veći dio diskusije o AI usredotočio na deepfakeove i vizuale, Lawson ističe da su kampanje dezinformacija na temelju teksta puno razmjernije i teže za pratiti.

Metaova WhatsApp potencijalno olakšava takve operacije zahvaljujući značajkama poput “Kanala” koji mogu emitirati poruke velikom broju ljudi. To omogućuje čak i manje sofisticiranim akterima širenje dezinformacija, poput lažnog obavještavanja zajednica o uvjetima na biračkim mjestima kako bi se potisnula izlaznost birača.

Širi utjecaj na društvo uključuje i opću javnost, jer preko polovice Amerikanaca i četvrtina britanskih građana već eksperimentiraju s AI alatima. Ta demokratizacija tehnologije znači da obični pojedinci mogu nehotice postati nositelji dezinformacija.

U pokušaju suočavanja s tim izazovima, Meta je počela označavati AI-generirani sadržaj na Facebooku i Instagramu, iako ova strategija nosi rizik stvaranja lažnog osjećaja sigurnosti gdje se pretpostavlja da je neoznačen sadržaj autentičan.

Štoviše, platforme za razmjenu poruka poput WhatsApp-a mogu postati ključna bojišta za AI-pokretane dezinformacije, kao što je viđeno na brazilskim izborima 2018. jasnije politike sadržaja mogle bi osnažiti tvrtke poput Meta da proaktivno se bore protiv zloupotrebe AI u izbornim miješanjima, slično specifičnim politikama koje su na snazi za Facebook i Instagram koje se bave manipulacijom birača.

Kako se linija između sintetičke buke i značajnog signala zamagljuje, tehnološke tvrtke i dužnosnici moraju ostati oprezni. Odsustvo otvorenih AI poremećaja na izborima ne signalizira sigurnost; naprotiv, naglašava hitnost pripreme pred diskretnim, ali moćnim protivnikom.

Važna pitanja i odgovori:

1. Kako AI-pokretane kampanje dezinformacija mogu utjecati na izborni sustav?
AI kampanje dezinformacija mogu utjecati na izborne sustave širenjem lažnih informacija u velikom opsegu, podrivajući povjerenje javnosti u izborni proces, manipulirajući javno mnijenje i čak potiskujući izlaznost birača.

2. Koje mjere poduzimaju društvene medijske tvrtke kako bi se suprotstavile toj prijetnji?
Tvrtke poput Meta pokreću radnje poput označavanja AI-generiranog sadržaja na svojim platformama kako bi informirale korisnike, izrađujući jasnije politike sadržaja i upotrebljavajući napredne algoritme za otkrivanje i blokiranje zlonamjernih aktivnosti.

3. Je li moguće detektirati AI-generiranu dezinformaciju?
AI-generirana dezinformacija može biti teška za detekciju zbog mogućnosti stvaranja raznolikog i ljudski sličnog sadržaja, ali napredak u digitalnoj forenzici poboljšava sposobnosti otkrivanja.

Ključni izazovi i kontroverze:

Izazovi:
– Razvijanje tehnologije koja će pratiti razvijenu sofisticiranost AI-generiranog sadržaja.
– Provodjenje propisa na globalnoj razini s obzirom na to da internet nema granica.
– Balansiranje potrebe slobode govora s imperativom sprječavanja širenja lažnih informacija.

Kontroverze:
– Eticka upotreba AI i kako spriječiti njezinu zloupotrebu bez kršenja privatnosti i prava.
– Odgovornost društvenih medijskih platformi u moderiranju sadržaja i opseg njihovog intervencionizma.
– Potencijalne pristranosti u AI algoritmima koje bi mogle utjecati na otkrivanje dezinformacija.

Prednosti i nedostaci:

Prednosti:
– AI se može koristiti za učinkovito otkrivanje i suzbijanje kampanja dezinformacija ako je odgovarajuće obučena.
– Društvene mreže imaju pristup obimnim podacima kako bi fino podešavali takve obrambene AI algoritme.
– Javna svijest o AI dezinformacijama može se povećati, potičući razboritiju publiku.

Nedostatci:
– Tehnologija AI lako se može pretvoriti u alat za širenje dezinformacija.
– Potrebna je stalna budnost i ažuriranje kako bi se pratile metode dezinformacija koje je osmislio AI.
– Potencijalno preveliko oslanjanje na otkrivanje AI-om može dovesti do lažnog osjećaja sigurnosti.

Predloženi povezani linkovi za daljnje čitanje mogli bi biti prema web stranicama glavnih društvenih medijskih platformi i organizacija koje proučavaju AI i dezinformacije, poput:
Meta Platforms Inc.
AI Global
Freedom House
Imajte na umu da ne mogu pretraživati internet, stoga dok su ovi URL-ovi ispravno oblikovani, uvijek provjerite jesu li 100% valjani prije upotrebe.

Privacy policy
Contact