La inteligencia artificial (IA) en la ciencia tiene un enorme potencial para avanzar en la investigación, pero también viene acompañada de sus propios desafíos. Mientras algunos imaginan la IA como una herramienta para generar resúmenes de investigación perspicaces y proponer hipótesis novedosas, existen preocupaciones sobre cuestiones éticas, fraudes y sesgos asociados con los modelos de IA.
Un problema apremiante es la mala conducta académica. Mientras algunas revistas permiten a los investigadores utilizar modelos de lenguaje (LLMs) para ayudar en la redacción de artículos, no todos son transparentes al respecto. Guillaume Cabanac, un científico informático, descubrió numerosos artículos que contenían frases como «regenerate response», lo que indica el uso de LLMs sin el debido reconocimiento. Esto plantea interrogantes sobre la magnitud de este problema.
En 2022, cuando el acceso a LLMs fue restringido, el número de casos de integridad de la investigación investigados por Taylor and Francis, un importante editor científico, aumentó significativamente. Esto sugiere una posible correlación entre el mal uso de LLMs y la mala conducta académica. Sinónimos y frases inusuales pueden ser una señal de alerta, indicando la posibilidad de contenido generado por IA disfrazado como trabajo escrito por humanos.
Incluso los investigadores honestos enfrentan desafíos al trabajar con datos que han sido contaminados por IA. Un estudio realizado por Robert West y su equipo reveló que más de un tercio de las respuestas recibidas de trabajadores remotos en Mechanical Turk, una plataforma de crowdsourcing, fueron generadas con la ayuda de chatbots. Esto plantea preocupaciones sobre la calidad y fiabilidad de la investigación cuando las respuestas provienen de máquinas en lugar de personas reales.
No solo el texto puede ser manipulado; las imágenes también pueden ser alteradas con la ayuda de la IA. La microbióloga Elisabeth Bik descubrió numerosos artículos científicos con imágenes idénticas, sospechosas de ser generadas artificialmente para respaldar conclusiones específicas. Detectar contenido generado por IA, ya sea en texto o en imágenes, sigue siendo un desafío. Las marcas de agua, un intento de identificar contenido generado por máquinas, resultan fáciles de falsificar.
Los modelos de IA utilizados en el descubrimiento científico pueden enfrentar desafíos para mantenerse al día con campos en constante evolución. Dado que gran parte de los datos de entrenamiento para estos modelos se basa en información más antigua, pueden tener dificultades para mantenerse actualizados con la vanguardia de la investigación. Esto podría limitar su efectividad y obstaculizar el avance científico.
A medida que la IA continúa moldeando el panorama científico, es crucial abordar estos problemas para asegurar la integridad y confiabilidad de la investigación. Directrices más estrictas para el uso de IA en publicaciones académicas, mejores métodos de detección para contenido generado por máquinas y un escrutinio constante de las plataformas de crowdsourcing son pasos esenciales para mantener el rigor científico en el que se basa la sociedad.
Preguntas Frecuentes
The source of the article is from the blog aovotice.cz