Les chatbots d’IA ont été critiqués pour la diffusion de fausses informations et de messages erronés, révèle un rapport. Selon Axios, l’enquête de NewsGuard a révélé que ces chatbots propageaient de la propagande russe à travers des contenus trompeurs. L’étude, réalisée par des experts de NewsGuard, a analysé les textes créés par John Mark Dugan, un ancien officier américain ayant cherché l’asile en Russie. Dugan a été découvert en train de produire et de diffuser de fausses informations en collaboration avec la machine de propagande russe.
NewsGuard a testé dix chatbots de premier plan en utilisant 57 requêtes, avec des résultats alarmants. Les chatbots ont été découverts en train de partager de fausses informations russes dans 32% des cas, citant souvent des faux sites web locaux comme sources fiables. Les fausses histoires allaient de la prétendue découverte d’écoutes téléphoniques au domicile de l’ancien président Donald Trump, à des allégations sur l’existence d’une « usine à trolls » ukrainienne fictive conçue pour interférer dans les élections américaines.
Les plateformes impliquées dans l’étude comprenaient ChatGPT-4 d’OpenAI, Smart Assistant de You.com, Grok, Inflection, Mistral, Copilote de Microsoft, Meta AI, Claude d’Anthropic, Gemini de Google, et Perplexity. Stephen Brill, le co-fondateur de NewsGuard, a souligné l’importance de la vigilance dans la consommation de l’actualité et des informations, mettant en garde contre la confiance aveugle accordée aux réponses données par ces chatbots.
Des inquiétudes ont été soulevées concernant l’impact potentiel de la désinformation sur les prochaines élections présidentielles, le sénateur Mark Warner soulignant les dangers posés par la prolifération des fausses nouvelles. Alors que la désinformation continue de se propager, les craintes grandissent quant à son influence sur l’opinion publique et les résultats politiques.
Malgré les efforts pour lutter contre la désinformation, des développements récents ont montré que les technologies d’IA comme ChatGPT continuent d’être utilisées à des fins de propagande. OpenAI a admis des cas isolés de propagande russe propagée à travers leurs plateformes et a révélé avoir déjoué des campagnes organisées par divers pays visant à manipuler l’opinion publique.
Alors que la bataille contre la désinformation s’intensifie, la responsabilité incombe aux entreprises technologiques et aux utilisateurs de rester vigilants et discernants lorsqu’ils interagissent avec du contenu en ligne, notamment à l’approche d’événements importants comme les élections.