OpenAI, tvorac konverzacijskog AI programa poznatog kao ChatGPT, identificirao je nekoliko organizacija u Rusiji, Kini i drugim regijama koje navodno koriste AI s ciljem utjecaja na javno mnijenje.
Ove grupe, koje preferiraju zadržati svoj identitet povjerljivim, koristile su AI generirane tekstove i stvaranje društvenih medija računa, kao i korištenje AI za programerske zadatke. U svojim operacijama fokusirale su se na osjetljive geopolitičke teme, uključujući rusku invaziju na Ukrajinu, sukobe u Gazu i američku politiku.
Među njima, organizacija sa sjedištem u Kini posebno je aktivna, stvarajući sadržaj koji kritizira kontroverzno puštanje tretirane vode iz japanske nuklearne elektrane Fukushima Daiichi. Operacija se također proširila na japanske jezične postove na mreži. Međutim, izvještaji pokazuju da ovi AI stvoreni poruke nisu privukle značajnu publiku na društvenim mrežama.
Osim toga, OpenAI je otkrio da su postojali slučajevi gdje su pokušaji generiranja propagandističkih slika putem alata za AI naišli na odbijanje od softvera, ističući etičke mjere opreza koje sprječavaju zloupotrebu. OpenAI je objavio izvješće detaljirajući ove prijetnje istog dana kada su objavljeni nalazi, ističući važnost praćenja i reguliranja korištenja AI kako bi se spriječile takve manipulativne prakse.
Važnost i Relevancija AI u Manipulaciji Javnog Mnenja:
Upotreba AI u manipulaciji javnog mnjenja velika je briga jer može utjecati na političke izbore, promijeniti javno mišljenje o ključnim pitanjima te čak potaknuti sukobe među različitim skupinama. Alati umjetne inteligencije, poput onih razvijenih za stvaranje deepfakeova ili pisanje uvjerljivih tekstova, mogu distribuirati dezinformacije u velikoj mjeri i s brzinom koja daleko nadmašuje ljudske sposobnosti.
Ključna Pitanja i Odgovori:
– Kakva sredstva organizacije koriste za manipulaciju javnog mnjenja putem AI?
Organizacije koriste AI za generiranje uvjerljivih tekstova, izmišljanje realističnih slika ili videa (deepfakeova), stvaranje lažnih profila na društvenim mrežama i automatiziranu distribuciju dezinformacija.
– Kako OpenAI sprječava da njegovi alati budu korišteni za propagandu?
OpenAI implementira etičke mjere opreza i nadzorne mehanizme koji mogu otkriti i spriječiti stvaranje sadržaja namijenjenih za propagandu ili dezinformacije.
– Kakvi su izazovi povezani s reguliranjem korištenja AI za manipulaciju?
Širenje alata i tehnologija za AI između državnih granica čini izazovnim provođenje propisa. Nadalje, evolucija sposobnosti AI može nadmašiti uspostavljanje učinkovitih okvira za upravljanje.
Ključni Izazovi i Kontroverze:
Ključni izazovi u suzbijanju korištenja AI za manipulaciju javnog mnjenja uključuju identifikaciju i pripisivanje zlonamjernih aktivnosti određenim akterima, s obzirom na to da mnogi skrivaju svoj identitet ili djeluju iz inozemstva. Dodatno, postoji stalna rasprava o ravnoteži između slobode izražavanja i potrebe za suzbijanjem lažnih informacija, kao i o ulozi tehnoloških kompanija naspram državne vlasti u reguliranju sadržaja.
Prednosti AI:
– Omogućava učinkovitu obradu podataka i analizu za razumijevanje trendova javnog mnjenja.
– Olakšava brzu distribuciju informacija za vjerodostojne vijesti ili uzbune u hitnim situacijama.
Mane AI:
– AI se može koristiti za pojačavanje lažnih narativa i stvaranje sofisticiranih kampanja dezinformacija.
– Postavlja pitanja o eroziji povjerenja u medije i demokratske institucije.
Regulatorni Napori i Etička Razmatranja:
Napretkom u području AI pokrenute su rasprave o etičkoj upotrebi i regulatornim mjerama kako bi se spriječila zlouporaba u političkom okruženju. Organizacije i vlade širom svijeta sada su svjesnije i sve više rade na razvoju politika za rješavanje etičkih izazova s kojima se AI suočava.
Ako želite saznati više o implikacijama AI i njezinom ukupnom društvenom utjecaju, možete istražiti sljedeće poveznice:
– OpenAI
– United Nations Digital Cooperation
– World Health Organization (za pitanja povezana s AI u zdravstvu)
The source of the article is from the blog mgz.com.tw