Las publicaciones científicas no son inmunes a la influencia de la inteligencia artificial (IA), como se evidenció en un incidente reciente que involucró imágenes falsas generadas por Midjourney, uno de los generadores de imágenes de IA más populares.
En un artículo publicado por la revista científica «Frontiers in Cell and Developmental Biology», los investigadores exploraron la conexión entre las células madre en los testículos de mamíferos y una vía de señalización asociada con la inflamación y el cáncer en las células. Si bien el contenido escrito del artículo parecía legítimo, fueron las representaciones inexactas y grotescas de los testículos de ratas, las vías de señalización y las células madre las que levantaron sospechas.
El diagrama de la rata generado por IA, por ejemplo, mostraba una rata con la parte superior del cuerpo etiquetada como «células madre senctolic» y lo que parecía ser un pene de rata grande etiquetado como «Dissilced»: definitivamente no una ilustración científica típica.
Sorprendentemente, las imágenes defectuosas se incluyeron en la publicación a pesar de los supuestos controles de calidad realizados por el equipo de integridad de la investigación y el editor responsable. Esto plantea preguntas sobre la efectividad del proceso de revisión por pares para detectar contenido engañoso o erróneo.
Si bien los investigadores reconocieron en el artículo que las imágenes fueron generadas por IA, es preocupante que dichas imágenes no se corrigieran antes de la publicación. Este incidente resalta la necesidad de pautas y protocolos más claros para abordar errores en las figuras e ilustraciones incorrectamente etiquetadas en las publicaciones científicas.
Lo que resulta particularmente alarmante es que el texto generado por IA en las ilustraciones ni siquiera estaba en inglés adecuado, lo que deja evidente para cualquier persona con ojo perspicaz que las imágenes no eran auténticas.
Las repercusiones de las imágenes generadas por IA en las publicaciones científicas van más allá de simples inexactitudes. En un estudio separado realizado por la Universidad Northwestern y la Universidad de Chicago, se descubrió que los expertos humanos se dejaron engañar por resúmenes científicos producidos por IA casi una tercera parte del tiempo. Esto plantea preocupaciones sobre el impacto potencial en la integridad científica y la necesidad de una evaluación más estricta del contenido generado por IA.
A medida que la IA continúa ganando popularidad y accesibilidad, existe un riesgo creciente de que imágenes científicamente inexactas se infiltren en publicaciones científicas y artículos de noticias. Si bien las imágenes generadas por IA pueden ser visualmente impactantes, a menudo carecen de la precisión detallada requerida en las ilustraciones científicas.
Este incidente nos recuerda que debemos ser cautelosos al aceptar contenido generado por IA como trabajo científico legítimo. Se necesitan políticas y mejores prácticas más estrictas para evitar que el contenido engañoso o absurdo socave la credibilidad de la investigación científica. Al fomentar una mejor comprensión de las limitaciones de la IA e implementar procesos de evaluación rigurosos, podemos garantizar que las publicaciones científicas mantengan su integridad y contribuyan al avance del conocimiento.
Preguntas frecuentes:
1. ¿En qué consiste el incidente relacionado con la IA y las publicaciones científicas?
El incidente involucró la publicación de un artículo en la revista científica «Frontiers in Cell and Developmental Biology» que incluía imágenes generadas por IA inexactas y grotescas de los testículos de ratas, vías de señalización y células madre.
2. ¿Qué fue preocupante acerca de las imágenes generadas por IA?
Las imágenes generadas por IA tenían partes mal etiquetadas, como un pene de rata grande etiquetado como «Dissilced», y el texto en las ilustraciones no estaba en inglés adecuado, lo que indicaba que las imágenes no eran auténticas.
3. ¿Cómo llegaron las imágenes defectuosas a la publicación?
A pesar de los controles de calidad realizados por el equipo de integridad de la investigación y el editor responsable, las imágenes inexactas no se corrigieron antes de la publicación, lo que plantea preguntas sobre la efectividad del proceso de revisión por pares para detectar contenido engañoso o erróneo.
4. ¿A qué se extienden las repercusiones de las imágenes generadas por IA en las publicaciones científicas?
Las repercusiones van más allá de simples inexactitudes. Un estudio separado mostró que los expertos humanos se dejaron engañar por resúmenes científicos producidos por IA aproximadamente una tercera parte del tiempo, lo que destaca preocupaciones sobre el impacto en la integridad científica y la necesidad de una evaluación más estricta del contenido generado por IA.
5. ¿Qué riesgos están asociados con la creciente popularidad y accesibilidad de la tecnología de IA?
A medida que la tecnología de IA se vuelve más accesible, existe un riesgo creciente de que imágenes científicamente inexactas se infiltren en publicaciones científicas y artículos de noticias. Si bien las imágenes generadas por IA son visualmente impactantes, a menudo carecen de la precisión detallada requerida en las ilustraciones científicas.
6. ¿Cómo se puede mantener la credibilidad de la investigación científica?
Para mantener la integridad de la investigación científica, se necesitan políticas y mejores prácticas más estrictas para evitar que el contenido engañoso o absurdo socave la credibilidad. Es necesario tener una mejor comprensión de las limitaciones de la IA y la implementación de procesos de evaluación rigurosos.
The source of the article is from the blog motopaddock.nl