Le Aziende Tecnologiche Faticano a Contenere la Disinformazione Elettorale Driven da IA
Uno studio recente ha rilevato che la maggior parte delle aziende tecnologiche non ha apportato aggiornamenti sufficienti alle proprie piattaforme per prevenire la diffusione di disinformazione. I chatbot basati su intelligenza artificiale, ampiamente utilizzati in Europa, hanno intenzionalmente diffuso informazioni false sulle elezioni, mettendo in evidenza la necessità urgente di riformare le piattaforme.
Il Ruolo dei Chatbot basati su IA nella Integrità Elettorale
La Democracy Reporting International (DRI) ha analizzato come i chatbot, tra cui Google Gemini, ChatGPT4 di OpenAI, ChatGPT4-o e Copilot di Microsoft, rispondessero alle domande relative alle elezioni. Tra il 22 e il 24 maggio, i ricercatori hanno posto domande sul processo elettorale in 10 lingue dell’UE a questi bot. I risultati hanno rivelato che molte risposte erano parzialmente o completamente inaccurate.
Ad esempio, Google Gemini ha rifiutato di rispondere a tutte le richieste relative alle elezioni nelle lingue testate, un approccio responsabile per evitare la diffusione di disinformazione secondo il rapporto. D’altra parte, Copilot di Microsoft talvolta sceglieva di non rispondere, specialmente in inglese e portoghese, indirizzando gli utenti al suo motore di ricerca Bing per informazioni credibili.
Risposta Insufficiente alla Disinformazione
Lo studio di follow-up è un’estensione di un precedente rapporto della DRI di aprile, che ha concluso che i chatbot non erano in grado di fornire risposte “affidabili e attendibili” alle domande standard sulle elezioni. Il Direttore Esecutivo della DRI, Michael-Meyer Resende, ha evidenziato che dove le informazioni non erano disponibili online, i chatbot tendevano a inventare risposte.
Risposte Miste Tra le Lingue
In altre lingue dell’UE, Copilot di Microsoft non ha mostrato un “modello discernibile” nel decidere quando rispondere e quando astenersi, suggerendo sforzi per limitare le sue “allucinazioni”, ma non in modo uniforme in tutte le lingue. Quando il bot ha risposto, i ricercatori hanno notato che oltre un terzo delle risposte erano in qualche modo corrette.
Gli Sforzi di Microsoft e l’Azione Richiesta a OpenAI
Microsoft ha presentato in precedenza le sue iniziative per la sicurezza delle elezioni a Euronews Next, che includevano la fornitura di “informazioni elettorali autorevoli” su Bing. Tuttavia, lo studio esorta OpenAI a “riallenare urgentemente” i suoi bot ChatGPT per evitare tale disinformazione, mentre OpenAI sottolinea il suo impegno per migliorare l’accuratezza dei contenuti relativi alle elezioni sulla sua piattaforma.
Lo studio sottolinea la necessità che gli sviluppatori di chatbot basati su IA combattono attivamente la diffusione di disinformazione elettorale e migliorino l’affidabilità di questi assistenti digitali sempre più influenti.
Sfide e Controversie nel Combattere la Disinformazione Elettorale Driven da IA
Una delle principali sfide nel combattere la disinformazione elettorale guidata dall’IA è la capacità dei modelli di IA di fornire in modo coerente informazioni accurate e affidabili. La diffusione di disinformazione può minare l’integrità del processo elettorale e fuorviare gli elettori. Inoltre, i chatbot basati su IA sono validi quanto i dati e gli algoritmi su cui sono costruiti, che potrebbero avere pregiudizi o limitazioni intrinseci. Assicurarsi che questi chatbot abbiano accesso a informazioni aggiornate e verificate e siano programmati per evitare la creazione di risposte inventate è cruciale.
La controversia ruota spesso attorno all’equilibrio tra il controllo della disinformazione e la preservazione della libertà di espressione. Sebbene sia vitale impedire la diffusione di falsità, specialmente riguardo alle elezioni, c’è il rischio di reprimere un discorso legittimo se le misure adottate sono troppo rigide.
Un altro fattore che contribuisce alla diffusione di disinformazione da parte dei chatbot basati sull’IA è la natura multilingue dell’Unione Europea, con sfumature e contesti che variano notevolmente tra le lingue, rendendo più difficile per l’IA navigare e comprendere accuratamente i contenuti localizzati.
Vantaggi e Svantaggi dei Chatbot basati su IA nelle Elezioni
L’uso dei chatbot basati sull’IA nelle elezioni ha vantaggi. Questi includono la fornitura di informazioni rapide e accessibili agli utenti, promuovendo così livelli più elevati di coinvolgimento nel processo elettorale.
Vantaggi:
– Forniscono un accesso rapido e conveniente alle informazioni al pubblico.
– I chatbot basati sull’IA possono gestire grandi volumi di richieste contemporaneamente, vantaggiosi durante periodi ad alto traffico come le elezioni.
– Possono potenzialmente ridurre il carico di lavoro del personale umano automatizzando le risposte alle domande frequenti.
Svantaggi:
– I chatbot basati sull’IA possono diffondere disinformazione se non sono correttamente supervisionati o programmati, portando a confusione o diffidenza pubblica nel processo elettorale.
– Potrebbero non avere la capacità di comprendere domande complesse o fornire risposte specifiche al contesto.
– C’è il rischio che hacker o attori malintenzionati sfruttino le vulnerabilità negli algoritmi dei chatbot per diffondere intenzionalmente informazioni false.
Per ulteriori informazioni correlate, i lettori possono visitare i siti web ufficiali delle organizzazioni citate per ulteriori approfondimenti:
– Democracy Reporting International (DRI)
– OpenAI
– Microsoft
– Per aggiornamenti generali su IA e tecnologia, potrebbero essere interessati anche alle sezioni di scienza e tecnologia delle principali testate giornalistiche come:
– BBC
– Euronews