À l’ère numérique, l’avènement de l’intelligence artificielle (IA) a révolutionné divers secteurs, y compris la littérature et la recherche académique. Des plateformes telles que Google Books et Google Scholar sont devenues des sources primaires pour trouver des informations sur une large gamme de sujets. Cependant, des rapports récents suggèrent un développement préoccupant : l’infiltration de livres générés par l’IA sur ces plateformes, brouillant la frontière entre le contenu généré par machine et l’auteur humain.
Les livres générés par l’IA ont attiré l’attention des chercheurs de 404 Media, qui ont utilisé une méthode astucieuse pour identifier ces publications de faible qualité. En analysant la phrase « D’après ma dernière mise à jour des connaissances » couramment utilisée dans ChatGPT d’OpenAI, ils ont découvert des livres sur Google Books qui semblent avoir été entièrement écrits par l’IA. Bien que certains livres mentionnent ChatGPT comme point de référence pour ses limitations, de nombreux autres présentent délibérément le contenu généré par l’IA comme un travail authentiquement rédigé par des humains.
En mettant au jour ce phénomène, il est apparu que certains livres générés par l’IA étaient conçus pour imiter de véritables œuvres littéraires. Par exemple, un livre discutant de l’attentat du marathon de Boston incluait la phrase : « D’après ma dernière mise à jour des connaissances en septembre 2021, l’affaire était toujours soumise à des procédures judiciaires et le résultat final restait incertain. » Curieusement, l’auteur de ce livre affirmait avoir rédigé 50 autres titres couvrant des sujets tels que la Guerre Froide, le 11 septembre, les pères fondateurs de l’Amérique, la Rome antique, des boxeurs célèbres et des Amérindiens célèbres.
Ce qui distingue ces livres générés par l’IA est la quantité impressionnante et la vitesse de publication. Les 50 titres ont été publiés en 2023, un exploit que même des auteurs chevronnés trouveraient difficile. De plus, ces livres ont généralement entre 50 et 100 pages et offrent souvent des récits superficiels qui ressemblent davantage à des entrées Wikipédia qu’à des travaux bien documentés.
De manière préoccupante, ces fausses publications sont facilement disponibles à l’achat auprès de grands détaillants en ligne, dont Amazon. Cet afflux de contenu généré par l’IA brouille l’intégrité de ressources de confiance telles que Google Books, suscitant des inquiétudes parmi les universitaires et les chercheurs.
La problématique s’étend au-delà des livres et se propage dans le domaine de la recherche académique. Google Scholar, une plateforme reconnue pour sa collection d’articles universitaires, a également été infiltrée par des contenus générés par l’IA. Une recherche de la phrase « D’après ma dernière mise à jour des connaissances » sur Google Scholar révèle une liste étendue de résultats sur divers sujets tels que les jeunes à risque, le diabète, l’autisme, le COVID-19 et la fatigue des pilotes de ligne. Le mélange de documents générés par l’IA avec des recherches légitimes crée une situation déconcertante, remettant en question l’authenticité des ressources académiques.
Interrogé sur cette question, Google a déclaré qu’il continuerait d’évaluer son approche dans le paysage évoluant constamment de l’édition de livres, sans mentionner de plans pour supprimer les résultats générés par l’IA des recherches.
L’avènement du contenu généré par l’IA soulève des questions importantes sur l’intégrité, la qualité et la fiabilité des sources d’informations en ligne. À mesure que la technologie progresse et que l’IA devient de plus en plus sophistiquée, il est crucial de développer des mécanismes efficaces pour distinguer le contenu généré par l’homme de celui généré par machine. Ce défi appelle à une collaboration entre les entreprises technologiques, les chercheurs et les éditeurs pour garantir la préservation de l’intégrité dans le domaine numérique.
FAQ
The source of the article is from the blog yanoticias.es