Cada vez más los científicos recurren a herramientas de inteligencia artificial (IA) para asistir en sus proyectos de investigación. Sin embargo, dos destacadas académicas, la Dra. Lisa Messeri de Yale y la Dra. Molly Crockett de Princeton, han advertido sobre la tentación de delegar tareas completamente a algoritmos. En su reciente artículo revisado por pares, publicado en Nature, argumentan que una sobredependencia en la IA puede conducir a una fase de indagación científica en la cual se produce más, pero se entiende menos.
A través de una extensa revisión de artículos publicados, manuscritos, actas de conferencias y libros, Messeri y Crockett identificaron varias «ilusiones» que pueden llevar a los investigadores a depositar una confianza excesiva en las ayudas de investigación de la IA. Estas ilusiones, resumidas por Nature, incluyen:
– La ilusión de la profundidad explicativa: El confiar en la IA u otra persona para obtener conocimiento puede crear la falsa creencia de que se posee una comprensión más profunda de lo que en realidad se tiene.
– La ilusión de la amplitud exploratoria: Los sistemas de IA pueden sesgar inadvertidamente la investigación al favorecer temas fácilmente testables por los algoritmos, potencialmente descuidando aquellos que requieren una encarnación física.
– La ilusión de la objetividad: Los investigadores pueden percibir erróneamente a los sistemas de IA como poseedores de todos los puntos de vista posibles o carentes de cualquier postura. Sin embargo, estas herramientas solo reflejan los puntos de vista presentes en los datos en los que fueron entrenadas, incluyendo cualquier sesgo.
Según Messeri y Crockett, estas ilusiones surgen de conceptos erróneos o visiones idealizadas de lo que la IA puede lograr. Destacan tres visiones comunes:
– IA como oráculo: Los investigadores pueden ver a las herramientas de IA como capaces de revisar exhaustivamente la literatura científica y comprender su contenido. Esto puede llevarlos a confiar en las herramientas para revisar los papers de manera más extensa que los humanos.
– IA como árbitro: Los sistemas automatizados pueden ser percibidos como más objetivos que los humanos, lo que los convierte en preferibles para resolver desacuerdos. Sin embargo, las herramientas de IA aún pueden mostrar sesgos o favorecer ciertos puntos de vista.
– IA como cuantificador: La creencia de que la IA supera las limitaciones humanas en el análisis de conjuntos de datos complejos puede llevar a los investigadores a depender únicamente de la IA para el análisis cuantitativo.
Los editores de Nature enfatizan que la comunidad científica debe ver el uso de la IA no como una solución inevitable, sino como una elección deliberada con riesgos y beneficios asociados que requieren una consideración cuidadosa.
– Leer el artículo de Messeri y Crockett aquí (detrás de paywall), y el editorial acompañante aquí.
Preguntas Frecuentes (FAQ)
The source of the article is from the blog yanoticias.es