Los modelos de lenguaje se han convertido en una fuerza transformadora en diversos aspectos de nuestras vidas, desde la educación hasta el trabajo. Estos programas de inteligencia artificial de aprendizaje profundo, como el ChatGPT de OpenAI, poseen la capacidad de generar textos similares a los escritos por humanos sobre una amplia gama de temas. Sin embargo, hay un problema subyacente que requiere atención: los supuestos culturales incorporados en estos modelos.
Los LLM (por sus siglas en inglés) se entrenan mediante el análisis de grandes cantidades de datos de texto, principalmente en inglés. Teniendo en cuenta que Internet está dominado por contenido en inglés, con un 59 por ciento de todos los sitios web en inglés, los datos de entrenamiento están fuertemente sesgados hacia las experiencias y perspectivas de los hablantes de inglés, especialmente los de Estados Unidos.
Este sesgo se vuelve cada vez más evidente al examinar cómo los LLM interpretan ciertas situaciones. Por ejemplo, en el pasado, ChatGPT asumía frugalidad o insatisfacción cuando una pareja en Madrid dejaba una propina del cuatro por ciento en un restaurante, sin tener en cuenta la norma cultural española de no dejar propina. Sin embargo, las actualizaciones y el entrenamiento continuo han mejorado la capacidad de ChatGPT para tener en cuenta las diferencias culturales al evaluar la pertinencia de una propina.
No obstante, hay otros casos que aún revelan los supuestos culturales inherentes de los LLM. Por ejemplo, al presentársele una historia sobre invitados que llegan a cenar a las 8:30 p.m., ChatGPT especularía sobre las razones de su tardanza, asumiendo que el horario estándar de la cena en América del Norte es a las 6 p.m., lo que resalta la perspectiva occidental y norteamericana estrecha a través de la cual estos modelos ven el mundo.
Estudios realizados por investigadores de la Universidad de Copenhague y la empresa de inicio de IA Anthropic han cuantificado este sesgo cultural en los LLM. Al incitar a estos modelos con encuestas que miden los valores humanos en diferentes países, se concluyó que exhibían una fuerte alineación con la cultura estadounidense.
Este problema no se limita solo al ChatGPT. Incluso DALL-E 3, un modelo de generación de imágenes, refleja sesgos similares. Al ser entrenado con imágenes principalmente de países occidentales, genera imágenes de desayunos que se ajustan a las normas culturales occidentales.
Para abordar estos supuestos culturales implícitos, es crucial ampliar los datos de entrenamiento para incluir una mayor variedad de idiomas y perspectivas culturales. Al incorporar perspectivas más diversas, podemos asegurar que los LLM reflejen una comprensión más amplia del mundo y eviten perpetuar sesgos.
Preguntas frecuentes:
P1: ¿Qué son los modelos de lenguaje?
R1: Los modelos de lenguaje son programas de inteligencia artificial de aprendizaje profundo que tienen la capacidad de generar textos similares a los escritos por humanos sobre diversos temas.
P2: ¿Cuál es el problema con los supuestos culturales en los modelos de lenguaje?
R2: El problema subyacente es que los modelos de lenguaje, como el ChatGPT de OpenAI, se entrenan principalmente con datos textuales en inglés, lo que genera sesgos culturales y supuestos basados en las experiencias y perspectivas de los hablantes de inglés, principalmente de Estados Unidos.
P3: ¿Cómo se manifiestan estos sesgos en los modelos de lenguaje?
R3: Los sesgos se pueden observar en la forma en que los modelos de lenguaje interpretan ciertas situaciones. Por ejemplo, ChatGPT puede asumir incorrectamente frugalidad o insatisfacción cuando una pareja en Madrid deja una propina del cuatro por ciento en un restaurante, sin tener en cuenta la norma cultural española de no dejar propina.
P4: ¿Se han abordado estos sesgos?
R4: Las actualizaciones y el entrenamiento continuo han mejorado la capacidad de ChatGPT para considerar las diferencias culturales, pero los sesgos aún persisten. Por ejemplo, al presentársele una historia sobre invitados que llegan a cenar a las 8:30 p.m., ChatGPT puede especular sobre su tardanza, asumiendo que el horario estándar de la cena en América del Norte es a las 6 p.m.
P5: ¿Otros modelos de lenguaje también están afectados por sesgos culturales?
R5: Sí, otros modelos de lenguaje como DALL-E 3, un modelo de generación de imágenes, también reflejan sesgos similares. Al ser entrenado con imágenes principalmente de países occidentales, DALL-E 3 genera imágenes de desayunos que se ajustan a las normas culturales occidentales.
Definiciones:
– LLM: Modelos de Lenguaje.
– ChatGPT: Chatbot de OpenAI basado en inteligencia artificial de aprendizaje profundo.
– DALL-E 3: Un modelo de generación de imágenes.
– Sesgo cultural: La tendencia de un modelo de lenguaje a favorecer o reflejar las perspectivas culturales y supuestos de ciertos grupos, en este caso, las culturas de habla inglesa y los países occidentales.
Enlaces relacionados:
– ChatGPT de OpenAI
– DALL-E
– Universidad de Copenhague
– Anthropic
The source of the article is from the blog hashtagsroom.com