Stručnjaci su izdali upozoravajuće upozorenje o tome kako se umjetna inteligencija (AI) koristi za pojačavanje dezinformacija i olakšavanje stranog miješanja na neviđenom opsegu i smanjenim troškovima. Tehnologije AI-a su snažno potaknule procese automatizacije iza masovne proizvodnje sadržaja, utječući na globalne događaje uključujući izbore.
Valentin Chatelet iz Digitalnog istraživačkog laboratorija za forenzička istraživanja Atlantskog vijeća (DFRLab) istaknuo je kako AI revolucionira generiranje sadržaja, omogućujući distribuciju ogromne količine vanjskog sadržaja tijekom kritičnih političkih razdoblja poput izbora za Europsku uniju.
Podaci koje je pregledao AFP iz kolektiva Antibot4Navalny, koji prati digitalne kampanje utjecaja povezane s Rusijom, otkrili su korištenje tisuća automatiziranih računa botova. Navodno su ovi botovi angažirani u intenzivnim propagandnim aktivnostima, što je posebno primjetno tijekom posljedica tragičnih događaja. Primjerice, nakon napada u Moskvi, bujica od preko dva milijuna poruka na društvenim platformama širila je narative koji su prikazali Ukrajinu i zapadne sile kao sudionike, slažući se s tvrdnjama koje su iznijeli ruski dužnosnici usprkos tvrdnji Islamske države (EI).
Raspon i prilagodljivost AI-jeve upotrebe u dezinformacijama isticala je OpenAI, developer iza ChatGPT-a. Izvijestili su da su ruske, kineske, iranske i izraelske komercijalne skupine koristile svoje AI alate kako bi utjecale na javno mnijenje internacionalno. AI-generirani sadržaj obuhvaća širok spektar, pokrivajući geopolitičke teme i često uparene s vizualnim satirama.
Umjetna inteligencija otežava sustavima za moderiranje društvenih medija otkrivanje botova, jer mogu postaviti mnoštvo poruka sličnog sadržaja koji nije identičan. Alexandre Alaphilippe, izvršni direktor europskog nevladinog udruženja EU DisinfoLab, istaknuo je prijevarnu prirodu ovih taktika, gdje se stvarni novinski članci masovno distribuiraju s političkim porukama, simulirajući široku domaću podršku.
Osim toga, AI je usavršio umjetnost imitacije, kako se vidi u operacijama nazvanim Doppelgänger, koji imitira zapadne medije kako bi širio lažne narative, te Olympiya, usmjeren na Olimpijadu u Parizu 2024. Alaphilippe predviđa da takve strategije nisu kratkoročni planovi već su dizajnirane da trajno postoje i razvijaju se, a ključni događaji poput predsjedničkih izbora u SAD-u služe kao potencijalne mete za te stalne kampanje.
Najvažnija pitanja i odgovori:
– P: Kako AI utječe na širenje dezinformacija?
O: AI značajno unapređuje sposobnost generiranja i distribucije dezinformacija automatskim procesima kreiranja sadržaja, omogućavajući širenje lažnih narativa na razini koja do sada nije viđena. Može stvoriti realističan tekst i slike koji mogu biti teško razlikovati od autentičnog sadržaja.
– P: Koje su poteškoće u otkrivanju dezinformacija generiranih AI-om?
O: AI-generirani sadržaj može biti vrlo sofisticiran, što otežava tradicionalnim sustavima za moderiranje otkrivanje. Dodatno, AI može generirati različite poruke koje dijele istovetan prijevarni sadržaj, ali nisu doslovne kopije, što dodatno komplicira napore otkrivanja.
– P: Koje kontroverze su povezane s korištenjem AI-a u kampanjama dezinformacija?
O: Upotreba AI-a u dezinformacijama postavlja etička pitanja o manipulaciji javnog mnijenja, potkopavanju demokratskih procesa i odgovornosti razvojnih inženjera AI-a u sprječavanju zloupotrebe njihovih alata u zlonamjerne svrhe.
– P: Kako se AI može regulirati kako bi se spriječile dezinformacije i strano miješanje?
O: Regulacija AI-a uključuje složene probleme oko slobode govora, inovacija i cyber sigurnosti. Donositelji politika suočavaju se s izazovom oblikovanja zakonodavstva koje može učinkovito spriječiti zlonamjernu upotrebu AI-a, a istovremeno ne gušeći tehnološki razvoj niti kršeći prava.
Ključne poteškoće ili kontroverze:
– Etičnost: Postoji kontinuirana rasprava o etičkim implikacijama upotrebe AI-a za stvaranje obmanjujućeg sadržaja i o tome trebaju li kreatori AI-a biti odgovorni za zloupotrebu njihovih platformi.
– Regulacija: Propisivanje učinkovite regulacije koja ne guši inovacije ili slobodu govora veliki je izazov. Također je potrebno uspostaviti međunarodne standarde jer utjecaj AI-a prelazi nacionalne granice.
– Globalna politika: Povoj između AI-a, dezinformacija i globalne politike složen je, pri čemu kampanje stranog miješanja koriste dezinformacije kao strategiju za podrivanje demokracija i promjenu međunarodnih odnosa.
Prednosti i nedostaci:
– Prednosti:
– AI može ubrzati otkrivanje dezinformacija identificirajući obrasce koje ljudi mogu propustiti.
– Također može osnažiti kvalitetno novinarstvo pomažući u provjeri činjenica i oslobađajući ljudske resurse za temeljnije izvještavanje.
– Nedostaci:
– AI se može zloupotrijebiti za stvaranje i širenje dezinformacija u masovnom opsegu.
– Realistična priroda AI-generiranih sadržaja može zavarati javnost, dovodeći do problema povjerenja i podjele u društvu.
Za daljnje istraživanje ovih tema, razmotrite posjet sljedećim povezanim linkovima:
– Atlantic Council
– EU DisinfoLab
– OpenAI
Molimo vas provjerite valjanost URL-ova jer je važnost domene ključna za pristup točnim i ažuriranim informacijama.
The source of the article is from the blog maestropasta.cz