En la era digital, la llegada de la inteligencia artificial (IA) ha revolucionado varias industrias, incluida la literatura y la investigación académica. Plataformas como Google Books y Google Scholar se han convertido en fuentes primarias para encontrar información sobre una amplia gama de temas. Sin embargo, informes recientes sugieren un desarrollo preocupante: la infiltración de libros generados por IA en estas plataformas, difuminando la línea entre contenido generado por máquinas y autoría humana.
Los libros generados por IA han llamado la atención de investigadores en 404 Media, quienes utilizaron un método ingenioso para identificar estas publicaciones de baja calidad. Al analizar la frase «Según mi última actualización de conocimientos» comúnmente utilizada en ChatGPT de OpenAI, descubrieron libros en Google Books que parecen haber sido escritos enteramente por IA. Aunque algunos libros mencionan a ChatGPT como un punto de referencia por sus limitaciones, muchos otros presentan deliberadamente el contenido generado por IA como obra auténtica escrita por humanos.
Al descubrir este fenómeno, se hizo evidente que ciertos libros generados por IA estaban diseñados para imitar obras literarias reales. Por ejemplo, un libro que discutía el atentado en el Maratón de Boston incluía la frase: «Según mi última actualización de conocimientos en septiembre de 2021, el caso continuaba sujeto a procedimientos legales y el resultado final aún era incierto.» Curiosamente, el autor de este libro afirmaba haber escrito otros 50 títulos que abarcaban temas como la Guerra Fría, el 11 de septiembre, los padres fundadores de América, la antigua Roma, boxeadores famosos y nativos americanos famosos.
Lo característico de estos libros generados por IA es la pura cantidad y velocidad de publicación. Los 50 títulos fueron publicados en el año 2023, un logro que incluso autores experimentados encontrarían desafiante. Además, estos libros suelen tener entre 50 y 100 páginas y a menudo ofrecen narrativas superficiales que se asemejan más a entradas de Wikipedia que a obras bien investigadas.
Alarmantemente, estas publicaciones falsas están fácilmente disponibles para su compra en importantes minoristas en línea, incluido Amazon. Esta oleada de contenido generado por IA difumina la integridad de recursos confiables como Google Books, causando preocupación entre académicos e investigadores.
El problema se extiende más allá de los libros y se adentra en el ámbito de la investigación académica. Google Scholar, una plataforma reconocida por su colección de artículos académicos, también ha sido infiltrada por contenido generado por IA. Buscar la frase «Según mi última actualización de conocimientos» en Google Scholar arroja una extensa lista de resultados en varios temas como jóvenes en riesgo, diabetes, autismo, COVID-19 y fatiga de pilotos de aerolíneas. La mezcla de documentos generados por IA con investigaciones legítimas crea una situación desconcertante, desafiando la autenticidad de los recursos académicos.
Cuando se les preguntó sobre este problema, Google declaró que continuaría evaluando su enfoque en el siempre cambiante panorama de la publicación de libros, pero no mencionó planes para eliminar los resultados generados por IA de la búsqueda.
El auge del contenido generado por IA plantea preguntas importantes sobre la integridad, calidad y fiabilidad de las fuentes de información en línea. A medida que avanza la tecnología y la IA se vuelve cada vez más sofisticada, es crucial desarrollar mecanismos efectivos para distinguir entre contenido generado por humanos y máquinas. Este desafío requiere de la colaboración entre empresas tecnológicas, investigadores y editores para garantizar la preservación de la integridad en el ámbito digital.
Preguntas Frecuentes
The source of the article is from the blog toumai.es