L’intelligence artificielle (IA) a révolutionné de nombreux secteurs, notamment la création d’images. Cependant, alors que les entreprises technologiques se lancent dans la création d’images par IA, elles rencontrent des défis significatifs, comme l’a illustré Firefly, l’outil de création d’images par IA d’Adobe. Firefly, tout comme Gemini de Google, a été critiqué pour avoir représenté de manière inexacte des traits raciaux et ethniques dans les images générées.
La controverse entourant Gemini a conduit à sa fermeture après avoir créé des images historiquement inexactes, telles que la représentation des Pères fondateurs de l’Amérique comme étant noirs tout en refusant de représenter des individus blancs. Le PDG de Google, Sundar Pichai, a admis l’erreur, reconnaissant que l’entreprise « s’était trompée ».
Semafor, un organisme de test, a découvert que Firefly reproduisait bon nombre des mêmes erreurs commises par Gemini. Les deux outils utilisent des techniques similaires pour créer des images à partir de texte écrit mais sont formés sur des ensembles de données différents. En particulier, Firefly d’Adobe utilise des images d’archives ou des images sous licence dans son processus de formation.
Bien qu’Adobe et Google aient des cultures d’entreprise différentes, le défi sous-jacent réside dans la technologie de base de la génération d’images. Les entreprises peuvent essayer de guider et de façonner les algorithmes, mais il n’existe aucun moyen infaillible d’éradiquer toutes les inexactitudes et les biais.
Questions Fréquemment Posées
1. Quels types d’erreurs Firefly a-t-il commises ?
Firefly a généré des images représentant des soldats noirs combattant pour l’Allemagne nazie lors de la Seconde Guerre mondiale et a inséré des hommes et des femmes noirs dans des scènes représentant les Pères fondateurs en 1787. Il a également produit plusieurs variations d’un personnage de bande dessinée, notamment un vieil homme blanc, un homme noir, une femme noire et une femme blanche. De plus, il a créé des images de Vikings noirs, similaire à ce que Gemini avait fait.
2. Pourquoi ces erreurs se produisent-elles ?
Ces erreurs découlent des efforts des concepteurs du modèle pour éviter de perpétuer des stéréotypes racistes. En assurant la représentation de groupes divers, tels que des médecins ou des criminels, ils cherchent à remettre en question les stéréotypes raciaux. Cependant, lorsqu’ils sont appliqués à des contextes historiques, ces efforts peuvent être perçus comme une tentative de réécrire l’histoire en fonction des dynamiques politiques contemporaines.
3. Ces défis sont-ils limités à Adobe ou Google ?
Non, ces défis ne sont pas propres à une entreprise ou un modèle en particulier. Le cas d’Adobe démontre que même une entreprise réputée pour respecter des directives peut rencontrer des difficultés. Assurer des données de formation complètes et aborder les biais dans les systèmes d’IA reste un défi généralisé dans l’industrie.
Adobe a pris des mesures significatives pour atténuer ces problèmes. L’entreprise a formé son algorithme sur des images d’archives, du contenu sous licence ou du contenu public pour éviter les problèmes de droits d’auteur pour ses clients.
Bien qu’Adobe n’ait pas commenté spécifiquement cette question, les controverses entourant la création d’images par IA mettent en lumière les complexités auxquelles les entreprises technologiques sont confrontées dans le développement d’outils d’IA précis et impartiaux. Ces défis soulignent la nécessité d’améliorations continues et de considérations éthiques dans le développement et la mise en oeuvre de l’IA.
Questions Fréquemment Posées
1. Quels types d’erreurs Firefly a-t-il commises ?
Firefly a généré des images représentant des soldats noirs combattant pour l’Allemagne nazie lors de la Seconde Guerre mondiale et a inséré des hommes et des femmes noirs dans des scènes représentant les Pères fondateurs en 1787. Il a également produit plusieurs variations d’un personnage de bande dessinée, notamment un vieil homme blanc, un homme noir, une femme noire et une femme blanche. De plus, il a créé des images de Vikings noirs, similaire à ce que Gemini avait fait.
2. Pourquoi ces erreurs se produisent-elles ?
Ces erreurs découlent des efforts des concepteurs du modèle pour éviter de perpétuer des stéréotypes racistes. En assurant la représentation de groupes divers, tels que des médecins ou des criminels, ils cherchent à remettre en question les stéréotypes raciaux. Cependant, lorsqu’ils sont appliqués à des contextes historiques, ces efforts peuvent être perçus comme une tentative de réécrire l’histoire en fonction des dynamiques politiques contemporaines.
3. Ces défis sont-ils limités à Adobe ou Google ?
Non, ces défis ne sont pas propres à une entreprise ou un modèle en particulier. Le cas d’Adobe démontre que même une entreprise réputée pour respecter des directives peut rencontrer des difficultés. Assurer des données de formation complètes et aborder les biais dans les systèmes d’IA reste un défi généralisé dans l’industrie.
Définitions :
– Intelligence artificielle (IA) : La simulation des processus d’intelligence humaine par des machines, y compris la capacité d’apprendre et de résoudre des problèmes.
– Création d’images par IA : L’utilisation d’algorithmes d’intelligence artificielle pour générer des images basées sur des descriptions textuelles ou d’autres entrées.
– Traits raciaux et ethniques : Les caractéristiques physiques associées à différents groupes raciaux ou ethniques.
– Gemini : L’outil de création d’images par IA de Google qui a été critiqué pour avoir représenté de manière inexacte des traits raciaux et ethniques dans les images générées.
– Sundar Pichai : Le PDG de Google.
– Semafor : Un organisme de test ayant trouvé des erreurs similaires dans l’outil de création d’images par IA d’Adobe, Firefly.
Liens suggérés :
– Adobe.com
– Google.com
The source of the article is from the blog aovotice.cz