Face à une menace croissante de désinformation posée par l’intelligence artificielle, Google a mis à jour de toute urgence sa plateforme de contenu généré par l’IA, AI Overviews, le vendredi dernier. Les utilisateurs ont signalé avoir reçu des réponses étranges voire potentiellement dangereuses à leurs requêtes, ce qui a incité le géant de la technologie à réagir rapidement. Selon l’entreprise, des mesures ont été prises dès que des problèmes ont été constatés, enfreignant ainsi les directives en matière de politique de contenu.
Des réponses erronées de l’IA entraînent une action rapide de Google
L’IA Overviews de Google a attiré l’attention des utilisateurs après qu’ils ont commencé à remarquer des réponses étranges à leurs questions. Par exemple, lorsqu’on lui a demandé combien de présidents musulmans il y a eu aux États-Unis, l’IA Overviews a suggéré à tort que Barack Obama pourrait être considéré comme le premier président musulman. Google a rapidement supprimé cette information incorrecte, confirmant qu’elle enfreignait leurs règlements en matière de contenu.
Un autre utilisateur a partagé une recommandation inhabituelle de l’IA Overviews. En réponse à une question sur la façon d’éviter que le fromage ne colle à la pizza, l’IA a suggéré d’utiliser de la « colle non toxique », une idée apparemment issue d’un ancien post Reddit. De même, une affirmation satirique de The Onion a été utilisée par erreur par l’IA Overviews, qui citait la prétendue admission de la CIA d’utiliser des surligneurs noirs pour obscurcir du texte dans des documents.
Google a pris ces cas au sérieux, les utilisant pour améliorer la précision du système. Certaines améliorations ont déjà été mises en place. Introduit à la mi-mai, l’AI Overviews vise à fournir une réponse écrite aux recherches, en s’éloignant des résultats traditionnels basés sur des liens. Bien que les hyperliens soient toujours disponibles, ils se trouvent désormais sous le contenu écrit par l’IA qui pourrait pleinement satisfaire les requêtes des utilisateurs.
Défis et controverses dans le contenu généré par l’IA
Un des défis essentiels des plateformes de contenu généré par l’IA, comme l’AI Overviews de Google, est la gestion et la prévention de la désinformation. Comme les algorithmes d’apprentissage automatique sont formés sur d’importantes bases de données provenant d’Internet, ils pourraient involontairement perpétuer des inexactitudes ou des biais présents dans ces sources de données. Garantir la fiabilité de ces systèmes est une préoccupation majeure pour les développeurs, les utilisateurs et les parties prenantes.
Il existe également un potentiel supplémentaire pour que l’IA soit exploitée par des acteurs malveillants. La désinformation et la mésinformation sont des menaces sérieuses à l’ère numérique, surtout lorsqu’une IA peut produire à grande échelle du contenu convaincant mais faux. Google, entre autres, doit continuellement mettre à jour les algorithmes et les mesures de surveillance pour se prémunir contre ces menaces.
Questions et réponses clés
Q : Quelles mesures Google a-t-il prises en réponse à la désinformation provenant d’AI Overviews ?
A : Google a mis à jour son algorithme d’AI Overviews pour supprimer les réponses inexactes et continue d’affiner son système pour améliorer la précision et le respect des directives en matière de politique de contenu.
Q : Comment la désinformation dans le contenu généré par l’IA se manifeste-t-elle ?
A : La désinformation peut provenir du fait que les systèmes d’IA s’entraînent sur des ensembles de données inexactes ou biaisées, ou du fait de l’interprétation erronée de données légitimes par l’IA.
Les avantages et inconvénients des résumés générés par l’IA
Avantages :
– Les AI Overviews peuvent potentiellement fournir des synthèses plus rapides et plus précises d’informations complexes.
– Le système peut améliorer l’efficacité des recherches, donnant aux utilisateurs les informations dont ils ont besoin sans avoir à cliquer sur plusieurs liens.
– En tirant parti de l’apprentissage automatique, Google peut continuellement faire évoluer la plateforme pour s’améliorer avec le temps, en s’adaptant à de nouvelles données et aux retours d’utilisateurs.
Inconvénients :
– Le système est sujet aux erreurs et peut propager la désinformation s’il n’est pas attentivement surveillé et corrigé.
– Il pourrait réduire le trafic vers les sites externes, ce qui pourrait nuire à l’audience et aux revenus publicitaires des éditeurs.
– Il existe un risque de trop se reposer sur l’IA, amenant les utilisateurs à accepter les informations générées par l’IA sans esprit critique ou vérification.
Assurer la validité du contenu en ligne est une tâche continue pour les moteurs de recherche comme Google, qui doivent équilibrer l’utilité des outils d’IA avec les risques de diffusion de désinformation. Pour plus d’informations sur les efforts et les fonctionnalités plus larges de Google, vous pouvez visiter le domaine principal de Google à Google.
The source of the article is from the blog papodemusica.com