Los modelos de inteligencia artificial (IA) se encuentran una vez más en el centro de la controversia debido a las dificultades en representar con precisión rasgos fenotípicos y descripciones de usuarios al generar imágenes. El modelo de IA más reciente en enfrentar escrutinio es la herramienta de generación de imágenes de IA de Meta, que ha sido aclamada como una poderosa herramienta para crear imágenes a partir de texto.
Pruebas iniciales realizadas por el equipo de CNN y The Verge han revelado algunos problemas preocupantes con la herramienta de generación de imágenes de IA de Meta. Parece que la herramienta tiene dificultades para crear imágenes de parejas con diferentes fenotipos raciales. Por ejemplo, al intentar generar una imagen de un hombre asiático con una esposa caucásica, la herramienta no logró producir el resultado deseado. De manera similar, no pudo generar una imagen de una mujer asiática con un hombre blanco y enfrentó dificultades con otras combinaciones interraciales. CNN informó que la herramienta no pudo crear una imagen de una mujer afroamericana con un esposo blanco.
En un giro intrigante, la adición de la religión pareció mejorar ligeramente el rendimiento de la herramienta. CNN observó que cuando se le pidió crear una imagen de un hombre judío negro y su esposa asiática, el generador de imágenes de IA produjo una foto de un hombre negro con una kipá y una mujer asiática. Sin embargo, al simplemente pedirle que genere una imagen de una «pareja interracial», la herramienta admitió su incapacidad para cumplir con la solicitud.
Las limitaciones de la herramienta de generación de imágenes de IA son particularmente llamativas considerando la prevalencia de parejas con diferentes fenotipos y antecedentes en los Estados Unidos. Según las estadísticas, al menos el 19% de las parejas de sexos opuestos en América pertenecen a diferentes etnias. El fracaso de la herramienta para representar con precisión esta realidad plantea inquietudes sobre posibles sesgos y deficiencias en la captura de la diversidad de las relaciones humanas.
Los problemas de la herramienta de generación de imágenes de IA de Meta surgieron después del reciente lanzamiento fallido de Gemini, otro modelo de IA de Alphabet (la empresa matriz de Google). Gemini enfrentó acusaciones de generar imágenes «despiertas» y recibió críticas por su presunta falta de condena a la pedofilia. Estos incidentes arrojan luz sobre los desafíos que enfrentan los desarrolladores de IA para garantizar la generación de imágenes responsable e imparcial.
A medida que la tecnología continúa evolucionando, es crucial que los modelos de IA se desarrollen con una comprensión exhaustiva de las complejidades y matices de las experiencias humanas. Las deficiencias de la herramienta de generación de imágenes de IA de Meta y herramientas similares subrayan la necesidad de un escrutinio constante, evaluación y mejora para garantizar que la inteligencia artificial refleje verdaderamente el diverso mundo en el que vivimos.
Preguntas Frecuentes (FAQ)
The source of the article is from the blog mendozaextremo.com.ar