Des experts techniques soulignent le besoin d’une perspective plus large dans le développement de l’IA pour créer des représentations reflétant la véritable diversité des femmes. L’expérience récente du Washington Post avec des générateurs d’images IA – Dalle-E d’OpenAI, Midjourney et Stable Diffusion – révèle un schéma troublant : la majorité des images représentent des femmes avec des clichés de beauté standard, comme étant jeunes, minces, avec de grands yeux et lèvres, et des cheveux longs, souvent foncés.
En ajustant l’entrée à « femme normale », les systèmes IA affichent une plus grande diversité en termes d’âge et de coiffure, mais restent limités en ce qui concerne le style vestimentaire et la couleur des vêtements – souvent neutres, doux et minimalistes, avec une prédominance de pantalons. Cependant, lorsque l’IA était invitée à générer des images de femmes en surpoids, les représentations montraient seulement un léger surpoids, ne correspondant pas à la réalité où plus de 40% des adultes américains sont obèses. De plus, lorsque les instructions exigeaient des traits exagérés, comme « un nez plus large » ou « une femme plus laide », les images résultantes étaient artificielles et même irrespectueuses, mettant en lumière les éléments éthiquement discutables programmés dans l’IA, que ce soit en toute connaissance de cause ou non.
Les sources utilisées pour former les systèmes IA sont souvent citées comme étant à l’origine du problème, car la vision des femmes présentée dans ces applications semble être influencée par les animes, les jeux vidéo, les films de super-héros et même les anciens récits Disney. Un fait particulièrement préoccupant est que de nombreux algorithmes IA ont initialement été formés grâce à des images provenant de sites Web pour adultes, ce qui introduit des biais profondément problématiques que les développeurs tentent désormais d’effacer.
La résistance contre une IA « éveillée » qui se concentre trop sur les aspects de genre et de race a déjà commencé, exhortant l’industrie à réfléchir à l’importance de l’éthique en programmation et à intégrer une gamme réaliste et inclusive d’expériences dans les représentations de l’intelligence artificielle.
Importance des Perspectives Diverses dans l’IA
La nécessité d’incorporer des perspectives diverses dans la programmation de l’intelligence artificielle (IA) découle du but de créer des technologies qui soient équitables, impartiales et représentatives de la population mondiale. Un point de vue monoculturel ou étroit lors du processus de développement peut entraîner un manque de représentation et la propagation de stéréotypes. L’utilisation de jeux de données d’entraînement divers provenant de différentes démographies est cruciale pour obtenir des systèmes IA impartiaux.
Questions Clés et Défis
Les questions fondamentales incluent :
1. Comment la diversité dans l’IA peut-elle être mesurée et améliorée de manière efficace ?
2. Quelles sont les implications de l’IA biaisée sur la société ?
3. Qui est responsable de garantir la diversité de l’IA ?
Répondre à ces questions implique de relever des défis clés :
– S’assurer que les équipes concevant et formant les IA représentent une large gamme de milieux et de perspectives.
– Identifier et obtenir des ensembles de données exempts de biais historiques et représentant la véritable diversité de la population.
– Développer des algorithmes qui ne perpétuent pas les stéréotypes ou ne discrimin…