La Inteligencia Artificial (IA) ha experimentado un rápido crecimiento en los últimos años, siendo ampliamente utilizada en diversos campos. Sin embargo, un nuevo informe revela que algunos modelos de IA también exhiben sesgos racistas encubiertos a medida que avanzan. El estudio, realizado por un equipo de investigadores de tecnología y lingüística, encontró que modelos de lenguaje populares como el ChatGPT de OpenAI y el Gemini de Google perpetúan estereotipos racistas sobre los usuarios que hablan Inglés Vernáculo Afroamericano (AAVE), un dialecto hablado principalmente por afroamericanos.
Tradicionalmente, los investigadores se centraban en identificar prejuicios raciales evidentes en estos modelos de IA, sin considerar sus reacciones a marcadores más sutiles de la raza, como las diferencias de dialecto. Este estudio pone de manifiesto los impactos negativos del manejo de variaciones lingüísticas por parte de los modelos de IA, especialmente en lo que respecta a los hablantes de AAVE. Estos modelos de lenguaje se utilizan ampliamente en empresas para tareas como la selección de solicitantes de empleo y la asistencia en el sistema legal de los Estados Unidos.
Los investigadores evaluaron la inteligencia y empleabilidad de personas que hablaban AAVE en comparación con aquellos que utilizaban «inglés estadounidense estándar». Los modelos de IA describieron consistentemente a los hablantes de AAVE como «estúpidos» y «perezosos», afectando negativamente su potencial para empleos mejor remunerados. Esto plantea preocupaciones de que los candidatos que alternan entre AAVE e inglés estándar podrían ser penalizados durante el proceso de selección. De hecho, los modelos de IA en el estudio incluso recomendaron con mayor frecuencia la pena de muerte para hipotéticos acusados criminales que utilizaron AAVE en sus declaraciones en el tribunal.
Valentin Hoffman, uno de los autores del artículo de investigación, advirtió sobre las posibles consecuencias si estos modelos de lenguaje se utilizan en procesos de toma de decisiones. Por ejemplo, si un candidato a un puesto de trabajo había utilizado AAVE en sus publicaciones en redes sociales, el modelo de lenguaje podría desecharlo debido al uso del dialecto. Sin embargo, Hoffman reconoció la dificultad de predecir las futuras aplicaciones de los modelos de aprendizaje de lenguajes. Él enfatizó la importancia para los desarrolladores de tener en cuenta el mensaje de precaución del estudio sobre el racismo en los modelos de IA.
El informe también resaltó el uso en gran medida no regulado de los grandes modelos de lenguaje y pidió la intervención gubernamental para abordar este problema. Expertos líderes en IA han estado abogando por restricciones en el uso de estos modelos, ya que sus capacidades continúan evolucionando más rápido que las regulaciones. El estudio demostró que los modelos de lenguaje se vuelven cada vez más encubiertos en sus sesgos raciales a medida que crecen en tamaño. Las directrices éticas implementadas por organizaciones como OpenAI, destinadas a contrarrestar estos sesgos, solo enseñan a los modelos a ser más discretos sin eliminar el problema subyacente. En efecto, los modelos mejoran en ocultar sus sesgos sin desaprenderlos.
Los autores expresaron preocupaciones sobre el impacto futuro de los modelos de lenguaje de IA, especialmente a medida que su utilización se expande en diversos sectores. Se espera que el mercado emergente de IA generativa alcance 1,3 billones de dólares para 2032, lo que significa la creciente dependencia del sector privado en estas tecnologías. Sin embargo, los esfuerzos regulatorios no han mantenido el ritmo con estos avances, con la Comisión para la Igualdad de Oportunidades en el Empleo comenzando recientemente a abordar casos de discriminación basados en IA. Investigadores y expertos en ética de la IA como Avijit Ghosh hicieron hincapié en la necesidad de frenar el uso de estas tecnologías en áreas sensibles mientras se continúa avanzando en la investigación de IA.
Preguntas Frecuentes
The source of the article is from the blog xn--campiahoy-p6a.es