Međunarodne kampanje identificirane od strane Open AI angažiraju chatbotove za oblikovanje demokratskog dijaloga
U nedavnom otkriću, Open AI je priznao upotrebu svojih alata umjetne inteligencije, uključujući Chat-GPT, od strane vanjskih entiteta koji imaju za cilj manipuliranje javnog mnijenja u slobodnim demokracijama. Prošlog tjedna, Open AI je otkrio listu koja prikazuje pet kampanja, ističući operacije poput ruske “Doppelganger” i kineske “Spamouflage”. Ove kampanje su koristile Chat-GPT za kreiranje sadržaja za web stranice i objave na društvenim mrežama kako bi utjecale na javnost.
Geopolitički utjecaj putem informacijskog ratovanja
Namjere kampanja odražavaju dugotrajnu priču: države poput Rusije i Kine smatraju Europske i Američke stabilne demokracije konkurentnim protivnicima i pokušavaju unutarnje oslabiti njihovu koheziju. Česta taktika je širenje lažnih informacija ili diseminacija podijeljenih komentara na društvenim mrežama, s ciljem prikazivanja polariziranih društava i stvaranja osjećaja tvrdog dijaloga.
Unatoč ovim pokušajima, Open AI sugerira da je pomoć umjetne inteligencije u ovim naporima minimalna. Prema njihovoj analizi, alati umjetne inteligencije nisu značajno povećali angažman ili doseg ovih aktera. Međutim, ova zaključna nedostaje komparativnih podataka iz ere prije Chat-GPT-a.
Umjetno generirana dezinformacija izaziva zabrinutost
Iako strane dezinformacijske kampanje nisu nadmašile utjecaj etabliranih medija, stručnjaci sugeriraju da alati umjetne inteligencije poput Chat-GPT olakšavaju širenje lažnih narativa. Tehnološki filozofi poput Armin Grunwalda upozoravaju na rizike po slobodne demokracije, naglašavajući da su usluge umjetne inteligencije učinile izuzetno jednostavnim generiranje i distribuciju dezinformacija.
Neovisne istrage podržavaju ove strahove, pri čemu sigurnosne tvrtke poput Recorded Future otkrivaju ruske aktere koji upravljaju web stranicama u SAD-u oblikovanim da podsjećaju na ugledne medijske outlet-e. Međutim, oni su daleko od neutralnih, često pokazujući naklonost prema Rusiji sa sadržajem djelomično generiranim od strane umjetne inteligencije.
Potraga za transparentnošću i sigurnošću u alatima umjetne inteligencije
Iako je Open AI detaljno opisao neke taktike koje su koristile strane agencije – uključujući pokušaje krivotvorenja identiteta na telegramu koji su spriječeni sigurnosnim mehanizmima umjetne inteligencije – kritičari bi željeli više transparentnosti od Open AI. Detalji koji se odnose na njihovu metodologiju identificiranja i zaustavljanja manipulacije ostaju nenavedeni, potičući debatu o javnim očekivanjima od organizacija koje imaju koristi od akademske istraživačke djelatnosti da budu otvorenije s svojim saznanjima. Ova rasprava ističe potrebu za povećanom otvorenošću kako alati umjetne inteligencije postaju ključni u globalnom informacijskom pejzažu.
Ključna pitanja i odgovori o alatima umjetne inteligencije i stranim utjecajnim operacijama
1. Koje su posljedice AI-generiranog sadržaja za demokratske procese?
Upotreba AI-generiranog sadržaja od strane stranih aktera radi utjecaja na demokratske procese postavlja značajna etička i sigurnosna pitanja. Ima potencijal da pojača dezinformacije, manipulira javnim mnijenjem i podriva integritet izbora i drugih temeljnih demokratskih praksi.
2. Koliko su učinkoviti alati umjetne inteligencije poput Chat-GPT u manipulaciji javnog mnijenja?
Prema Open AI-u, postojeći dokazi sugeriraju da upotreba njihovih alata umjetne inteligencije nije značajno povećala angažman ili doseg stranih kampanja u pitanju. Međutim, učinkovitost ovih alata može evoluirati kako tehnologija napreduje ili kako strategije postaju sofisticiranije.
3. Koje su poteškoće u identifikaciji i suzbijanju AI-generirane dezinformacije?
Značajna poteškoća je razlikovanje između legitimnog i AI-generiranog dezinformacijskog sadržaja, s obzirom na to da AI tehnologije postaju sve vještije u imitiranju ljudskog pisanja. Nadalje, velika količina sadržaja proizvedenog ovakvim alatima može preplaviti napore provjere činjenica i reguliranja informacija.
4. Koje su kontroverze povezane s postupanjem Open AI-a u nestajanjem stranih utjecajnih operacija?
Kritičari su pozvali na veću transparentnost od strane Open AI-a u njihovim metodologijama za otkrivanje i zaustavljanje manipulativnih kampanja. Postoji rasprava o tome jesu li organizacije koje koriste javno financirana akademska istraživanja trebale biti otvorenije s svojim saznanjima i kako najbolje uskladiti transparentnost s potrebom zaštite sigurnosnih mjera.
Prednosti i nedostatci alata umjetne inteligencije poput Chat-GPT
Prednosti:
– AI može automatizirati i poboljšati različite zadatke, uključujući stvaranje sadržaja, što može biti korisno za produktivnost i inovacije.
– Može pomoći u analizi velikih skupova podataka, omogućujući bolje razumijevanje složenih uzoraka i unapređivanje odlučivanja.
Nedostaci:
– AI-generirani sadržaj može biti zlonamjerno korišten za stvaranje dubinskih laži ili širenje dezinformacija, što može podrivati povjerenje u medije i institucije.
– Jednostavnost s kojom pojedinci ili entiteti mogu generirati vjerodostojnu dezinformaciju može nadmašiti sposobnost platformi i regulatora za učinkovit odgovor.
– Kako se sposobnosti AI-a napredovale, razlikovanje autentičnog sadržaja od sintetičkog ili manipuliranog sadržaja moglo bi postati složenije.
Za daljnje čitanje o širim implikacijama AI tehnologija i njihovim upravljanjem, možete posjetiti glavnu domenu Open AI-a putem ovog linka: OpenAI. Molimo vas da provjerite da je pristup trećim stranama u skladu s vašim praksama kibernetičke sigurnosti i lokalnim propisima.
The source of the article is from the blog anexartiti.gr