Companiile de tehnologie se luptă să reducă dezinformarea în alegerile conduse de AI
Un studiu recent constată că majoritatea companiilor de tehnologie nu au făcut suficiente actualizări la platformele lor pentru a preveni răspândirea de informații greșite. Chatbot-urile AI, folosite în mod larg în Europa, au fost intenționat furnizatoare de informații false despre alegeri, punând accentul pe o nevoie urgentă de reformă a platformei.
Rolul Chatbot-urilor AI în integritatea electorală
Organizația Democracy Reporting International (DRI) a analizat modul în care chatbot-urile, inclusiv Google Gemini, ChatGPT4 și Copilot de la Microsoft, răspund la întrebări legate de alegeri. Între 22 și 24 mai, cercetătorii au adresat întrebări legate de procesul electoral în 10 limbi din UE acestor boti. Concluziile au arătat că multe răspunsuri au fost fie parțial, fie în întregime incorecte.
De exemplu, Gemini de la Google a refuzat să răspundă la toate întrebările legate de alegeri în limbile testate, ceea ce raportul sugerează că este o abordare responsabilă pentru a evita răspândirea dezinformării. Pe de altă parte, Copilot de la Microsoft a ales uneori să nu răspundă, în special în engleză și portugheză, redirecționând utilizatorii către motorul său de căutare Bing pentru informații credibile.
Răspuns insuficient la dezinformare
Studiul de urmărire este o extensie a unui raport anterior al DRI din aprilie, care a concluzionat că chatbot-urile nu au reușit să ofere răspunsuri „fiabile și de încredere” la întrebările standard despre alegeri. Directorul executiv al DRI, Michael-Meyer Resende, a subliniat că acolo unde informația nu era disponibilă online, chatbot-urile tindeau să fabrice răspunsuri.
Răspunsuri mixte în diferite limbi
În alte limbi din UE, Copilot de la Microsoft nu a arătat „niciun model discernibil” în alegerea momentelor când să răspundă sau să se abțină, ceea ce sugerează eforturi de a-și „limita halucinațiile”, dar nu uniform în toate limbile. Când bot-ul a răspuns, cercetătorii au observat că peste o treime din răspunsuri au fost incorecte într-o anumită măsură.
eforturile Microsoft și acțiunea necesară a OpenAI
Microsoft a prezentat anterior inițiativele sale de securitate electorală la Euronews Next, care include furnizarea de „informații electorale autoritative” pe Bing. Cu toate acestea, studiul îndeamnă OpenAI să-și „reantreneze urgent” botii ChatGPT pentru a evita dezinformările, în timp ce OpenAI subliniază angajamentul său de a îmbunătăți acuratetea conținutului legat de alegeri pe platforma sa.
Studiul subliniază nevoia ca dezvoltatorii de chatbot AI să lupte activ împotriva răspândirii dezinformării electorale și să îmbunătățească fiabilitatea acestor asistenți digitali tot mai influenți.
Provocări și controverse în combaterea dezinformării electorale condusă de AI
Una dintre principalele provocări în combaterea dezinformării electorale conduse de AI este capacitatea modelelor AI de a furniza în mod constant informații corecte și fiabile. Răspândirea dezinformării poate submina integritatea procesului electoral și poate induca în eroare alegătorii. Mai mult, chatbot-urile AI sunt la fel de bune ca datele și algoritmii pe care sunt construite, care pot avea bias-uri sau limitări inherente. Asigurarea faptului că aceste chatboturi au acces la informații actualizate, verificate și sunt programate să evite crearea de răspunsuri fabricate este crucială.
Controversele se învârt adesea în jurul echilibrului dintre controlul dezinformării și păstrarea libertății de vorbire. În timp ce este vital să se prevină răspândirea informațiilor false, în special în ceea ce privește alegerile, există un risc de suprimare a discursului legitim dacă măsurile luate sunt prea stricte.
Un alt factor care contribuie la răspândirea dezinformării de către chatbot-urile AI este natura multilingvă a Uniunii Europene, cu nuanțe și contexte variind considerabil între limbi, ceea ce face mai dificil pentru AI să navigheze și să înțeleagă conținutul localizat în mod precis.
Avantaje și dezavantaje ale chatbot-urilor AI în alegeri
Utilizarea chatbot-urilor AI în alegeri vine cu avantaje. Acestea includ furnizarea rapidă și accesibilă a informațiilor utilizatorilor, promovând astfel un nivel mai ridicat de implicare în procesul electoral.
Avantaje:
– Ele oferă acces rapid și convenabil la informații publicului.
– Chatbot-urile AI pot gestiona volume mari de întrebări simultan, ceea ce este destul de benefic în perioadele de trafic intens, cum ar fi alegerile.
– Ele pot reduce potențial sarcina personalului uman prin automatizarea răspunsurilor la întrebările frecvente.
Dezavantaje:
– Chatbot-urile AI pot răspândi dezinformare dacă nu sunt corect supervise sau programate, ceea ce duce la confuzie publică sau la lipsa de încredere în procesul electoral.
– Ele pot să nu aibă capacitatea de a înțelege întrebări complexe sau sofisticate sau de a oferi răspunsuri specifice contextului.
– Există un risc de hackeri sau de actori malitioși care să exploateze vulnerabilitățile din algoritmii chatbot-urilor pentru a răspândi intenționat informații false.
În ceea ce privește informațiile relevante, cititorii pot vizita site-urile oficiale ale organizațiilor menționate pentru mai multe informații:
– Democracy Reporting International (DRI)
– OpenAI
– Microsoft
– Pentru actualizări generale despre AI și tehnologie, le-ar putea interesa, de asemenea, secțiunile de știință și tehnologie ale unor marile organizații de știri, cum ar fi:
– BBC
– Euronews