Mentre si avvicinano le elezioni parlamentari europee di giugno 6-9, l’accuratezza dei chatbot guidati dall’IA è sotto scrutinio. I ricercatori di Democracy Reporting International, con sede a Berlino, hanno valutato le prestazioni dei sistemi AI dei giganti tecnologici Google, Microsoft e OpenAI nel fornire agli elettori informazioni affidabili sulle elezioni. I risultati suggeriscono che sebbene questi chatbot AI siano progettati per rispondere in modo imparziale a questioni politiche, il loro supporto sul processo elettorale è spesso non affidabile.
Durante i test svolti a metà marzo, ai chatbot sono state poste una serie di domande su aspetti generali delle elezioni europee, come le date di voto e i requisiti di partecipazione. Anche se i bot sono integrati in applicazioni come i motori di ricerca, spesso hanno fornito risposte inconsistenti e fuorvianti. Ad esempio, l’ultima versione a pagamento di ChatGPT di OpenAI è stata considerata la migliore tra i bot, mentre Gemini di Google è risultato essere il meno affidabile, fornendo informazioni superate in alcuni casi.
La natura inconsistente delle risposte dei bot, incluso la generazione di informazioni fabbricate, ha evidenziato i problemi di imprevedibilità e di raffinamento dei modelli linguistici dei grandi sistemi AI. Inoltre, nel fornire consigli politici o rispondere a domande proceduralmente complesse sulla registrazione degli elettori e sul voto, i bot non sono stati in grado di offrire in modo coerente indicazioni accurate.
Per evitare la disinformazione degli elettori che potrebbe influenzare il comportamento di voto e gli esiti delle elezioni, i ricercatori sollecitano gli sviluppatori a perfezionare i loro bot per indirizzare gli utenti verso fonti autorevoli, in particolare le autorità elettorali. Chiedono inoltre un approccio cauto all’integrazione di tali AI nei motori di ricerca, sottolineando l’importanza di rispettare gli obblighi legali previsti dal Digital Services Act, comprese le adeguate valutazioni dei rischi. In risposta all’audit, le aziende tecnologiche hanno sottolineato i loro sforzi in corso per affrontare i problemi e garantire che i sistemi AI rispettino le aspettative degli utenti per le imminenti elezioni del 2024.
Tendenze attuali del mercato:
I bot basati sull’Intelligenza Artificiale (IA) stanno diventando sempre più fondamentali per il modo in cui le persone ottengono informazioni online. Le tendenze di mercato suggeriscono che c’è un investimento e un interesse crescenti nell’IA, in particolare per il servizio clienti, il recupero delle informazioni e l’assistenza virtuale. La tecnologia dell’IA è in costante evoluzione, con i bot che imparano grazie all’aumento dell’interazione e alla raccolta di dati.
Le aziende tecnologiche si stanno impegnando nello sviluppo di NLP (Elaborazione del Linguaggio Naturale) e nell’apprendimento automatico per potenziare la capacità dei bot di IA di comprendere e elaborare il linguaggio umano in modo più efficace. Vi è inoltre un particolare focus sull’etica e la responsabilità dell’IA, specialmente nell’ambito delle informazioni politiche, dove gli enjeux sono elevati.
Previsioni:
Si prevede che l’IA diventerà sempre più sofisticata col tempo. Entro le elezioni del 2024, potremmo vedere versioni più avanzate di questi bot in grado di distinguere e fornire informazioni politiche accurate. Gli strumenti AI saranno probabilmente più abili nel filtrare la disinformazione e offrire dati affidabili provenienti da enti autorevoli.
L’uso dei bot basati su IA in politica è destinato ad aumentare, ma è probabile che tali bot saranno sviluppati con maggiori controlli per prevenire la diffusione di informazioni inesatte. Inoltre, misure regolamentari, come il Digital Services Act dell’UE, plasmeranno il quadro entro cui operano questi bot.
Principali sfide e controversie:
Una sfida principale con i bot AI nel mondo politico è garantire accuratezza e imparzialità. C’è il rischio che i bot possano essere manipolati o programm…
To be continued…
The source of the article is from the blog procarsrl.com.ar