OpenAI, tvorac AI programa za razgovor poznatog kao ChatGPT, identificirao je nekoliko organizacija sa sjedištima u Rusiji, Kini i drugim regijama koje navodno koriste AI u svrhu utjecanja na javno mnijenje.
Ove grupe, koje preferiraju zadržati svoj identitet tajnim, koriste AI-generirani tekst i kreiranje računa na društvenim mrežama, kao i upotrebu AI za programske zadatke. U svojim operacijama fokusirale su se na osjetljive geopolitičke teme, uključujući rusku invaziju na Ukrajinu, sukobe u Gazi i američku politiku.
Od tih, organizacija sa sjedištem u Kini posebno je aktivna, generirajući sadržaj koji kritizira kontroverzno oslobađanje tretirane vode iz nuklearne elektrane Fukushima Daiichi u Japanu. Operacija se također proširila na japanske jezične postove na mreži. Međutim, izvještaji ukazuju da ovi poruke stvorene pomoću AI nisu privukle značajnu publiku na društvenim mrežama.
Općenito, OpenAI je otkrio da su postojali slučajevi gdje su pokušaji generiranja propagandističkih slika putem AI alata naišli na odbijanje od strane softvera, ističući etičke mjere opreza koje su uvedene kako bi se spriječila zloupotreba. OpenAI je objavio izvješće koje detaljno opisuje ove prijetnje istoga dana kada su objavljeni nalazi, ističući važnost praćenja i regulacije korištenja AI kako bi se spriječile takve manipulativne prakse.
Važnost i relevantnost AI-a u manipuliranju javnim mnijenjem:
Korištenje AI u manipuliranju javnim mnijenjem velika je briga jer može utjecati na političke izbore, mijenjati javno mišljenje o ključnim pitanjima i čak potaknuti sukobe među različitim skupinama. Alati umjetne inteligencije, poput onih razvijenih za stvaranje dubinskih laži ili pisanje uvjerljivih tekstova, mogu širiti dezinformacije u velikom opsegu i brzinom koja daleko nadmašuje ljudske mogućnosti.
Ključna pitanja i odgovori:
– Koja sredstva organizacije koriste za manipuliranje javnim mnijenjem pomoću AI?
Organizacije koriste AI za generiranje uvjerljivih tekstova, izradu realističnih slika ili videa (dubinskih laži), stvaranje lažnih profila na društvenim mrežama i automatizaciju širenja dezinformacija.
– Kako OpenAI sprječava da se njegovi alati koriste za propagandu?
OpenAI primjenjuje etičke mjere opreza i nadzorne mehanizme koji mogu otkriti i spriječiti softver u generiranju sadržaja namijenjenog za propagandu ili dezinformaciju.
– S kojim izazovima je povezano reguliranje korištenja AI-a za manipulaciju?
Proliferacija AI alata i tehnologija preko međunarodnih granica otežava provođenje regulacija. Nadalje, evolucija AI sposobnosti može nadmašiti uspostavljanje učinkovitih okvira upravljanja.
Ključni izazovi i kontroverze:
Ključni izazovi u rješavanju korištenja AI za manipulaciju javnim mnijenjem uključuju identificiranje i pripisivanje zlonamjernih aktivnosti određenim akterima, budući da mnogi skrivaju svoj identitet ili djeluju iz inozemstva. Također, traje rasprava o ravnoteži između slobode izražavanja i potrebe za suzbijanjem lažnih informacija, kao i uloga tehnoloških tvrtki u odnosu na državnu vlast u reguliranju sadržaja.
Prednosti AI-a:
– Omogućuje učinkovitu obradu i analizu podataka kako bi se razumjeli trendovi javnog mišljenja.
– Pomaže u brzoj distribuciji informacija za legitimne vijesti ili hitne obavijesti.
Nedostaci AI-a:
– AI se može koristiti za pojačavanje lažnih narativa i stvaranje sofisticiranih kampanja dezinformacija.
– Izaziva zabrinutosti zbog urušavanja povjerenja u medije i demokratske institucije.
Regulacijski napori i etička razmatranja:
Napredak u AI potaknuo je rasprave o etičkoj upotrebi i regulatornim mjerama kako bi se spriječila zloupotreba u političkoj areni. Organizacije i vlade diljem svijeta sada su svjesnije i sve više rade na razvoju politika za suočavanje s etičkim izazovima koje postavlja AI.
Ako želite saznati više o posljedicama AI-a i njezinom ukupnom društvenom utjecaju, možete istražiti sljedeće poveznice:
– OpenAI
– Ujedinjeni narodi Digital Cooperation Panel
– Svjetska zdravstvena organizacija (za pitanja vezana uz AI u zdravstvu)