OpenAI, creatorul programului de inteligenta artificiala conversationala cunoscut sub numele de ChatGPT, a identificat mai multe organizatii din Rusia, China si alte regiuni care ar folosi AI-ul pentru a influenta opinia publica.
Aceste grupuri, care prefera sa-si pastreze identitatea confidentiala, au folosit text generat de AI si crearea de conturi pe retelele de socializare, precum si utilizarea AI-ului pentru sarcini de programare. În operațiunile lor, s-au concentrat pe probleme geopolitice sensibile, inclusiv invazia rusa din Ucraina, conflictele din Gaza si politica americana.
Printre acestea, o organizatie cu sediul în China a fost în special activa, generand continut care critica eliberarea controversata a apei tratate din centrala nucleara Fukushima Daiichi din Japonia. Operațiunea s-a extins si la postările în limba japoneza online. Cu toate acestea, rapoartele indică faptul că aceste mesaje create de AI nu au generat un număr semnificativ de vizualizări pe platformele de socializare.
Mai mult, OpenAI a dezvăluit că au existat cazuri în care încercările de generare de imagini de propagandă prin instrumente AI au fost refuzate de software, evidențiind măsurile etice în vigoare pentru a preveni utilizarea abuzivă. OpenAI a publicat un raport detaliind aceste amenințări în aceeași zi în care au fost anunțate constatările, subliniind importanța monitorizării și reglementării utilizării AI-ului pentru a preveni practicile manipulative.
Importanța și relevanța AI-ului în manipularea opiniei publice:
Utilizarea AI-ului în manipularea opiniei publice este o preocupare semnificativa deoarece poate influența alegerile politice, schimba sentimenul public cu privire la probleme cheie si chiar incita conflictele intre diferite grupuri. Instrumentele de inteligenta artificiala, precum cele dezvoltate pentru crearea de deepfakes sau scrierea de texte persuasive, pot disemina dezinformare la scara larga si cu o viteza care depaseste cu mult capacitatile umane.
Intrebari si raspunsuri cheie:
– Ce mijloace folosesc organizatiile pentru a manipula opinia publica cu ajutorul AI-ului?
Organizatiile folosesc AI-ul pentru a genera text persuasiv, a fabrica imagini sau videoclipuri realiste (deepfakes), a crea profile false pe retelele de socializare si a automatiza raspandirea de informatii false.
– Cum împiedică OpenAI ca instrumentele sale să fie folosite pentru propagandă?
OpenAI implementeaza masuri de protectie etice si mecanisme de supraveghere care pot detecta si preveni ca software-ul sa genereze continut destinat propagandei sau dezinformarii.
– Ce provocări sunt asociate cu reglementarea utilizarii AI-ului pentru manipulare?
Repetarea uneltelor si tehnologiilor AI peste granitele internaționale face dificilă impunerea regulamentelor. În plus, capacitățile în evoluție ale AI-ului ar putea depasi stabilirea unor cadre de guvernare eficiente.
Provocari cheie si controverse:
Principalele provocări în abordarea utilizării AI-ului pentru manipularea opiniei publice includ identificarea si atribuirea activităților malitioase unor actori specifici, deoarece mulți isi ascund identitatea sau opereaza din afara tarii. În plus, exista un debate in curs despre echilibrul între libertatea de exprimare si nevoia de a restrânge informațile false, precum și rolul companiilor tech versus autoritatea statului în reglementarea continutului.
Avantaje ale AI-ului:
– Permite prelucrarea eficienta a datelor si analiza pentru a intelege tendintele opiniei publice.
– Faciliteaza diseminarea rapida a informatiilor pentru stiri legitime sau alerte de urgenta.
Dezavantaje ale AI-ului:
– AI-ul poate fi folosit pentru a amplifica narativele false si a crea campanii sofisticate de dezinformare.
– Ridica ingrijorari privind erodarea increderii in media si institutiile democratice.
Eforturi reglementare si consideratii etice:
Avansurile în domeniul AI-ului au adus discutii privind utilizarea etica si masurile reglementare pentru a preveni utilizarea abuziva a acesteia in arena politica. Organizatiile si guvernele din intreaga lume sunt acum mai constiente si lucreaza din ce in ce mai mult la dezvoltarea de politici pentru a aborda provocarile etice create de AI.
Daca doriti sa cititi mai multe despre implicatiile AI-ului si impactul sau societal general, puteti explora urmatoarele linkuri:
– OpenAI
– United Nations Digital Cooperation
– World Health Organization (pentru probleme AI legate de sanatate)