L’outil de génération d’images basé sur l’IA de Microsoft, Copilot Designer, est sous surveillance alors que l’ingénieur Shane Jones met en garde contre ses dangers potentiels. Jones, lors d’une interview avec CNBC, a exprimé des préoccupations concernant les images perturbantes et étranges produites par l’outil. Malgré ses efforts pour sensibiliser au sein de Microsoft, Jones s’est maintenant tourné vers les régulateurs gouvernementaux pour intervenir.
L’un des exemples cités par Jones inclut le générateur d’images basé sur l’IA produisant des images de démons et de sang en réponse à la phrase « pro-choix ». Une autre instance impliquait des images de femmes sexualisées en lingerie à côté de crashs de voitures violents en réponse à « accident de voiture ». Bien que Jones reconnaisse que ces images violent les directives d’IA responsable de Microsoft, la société n’a pas répondu de manière adéquate à ses demandes de suspension du générateur d’images.
Copilot Designer fonctionne sur le générateur d’images Dall-E 3 d’OpenAI, ainsi que sur d’autres outils d’IA de Microsoft. Malgré les critiques et les problèmes de modération de contenu, Microsoft semble peu enclin à mettre Copilot Designer en pause. Cependant, des incidents récents impliquant d’autres générateurs d’images basés sur l’IA, comme la pause temporaire de Google Gemini pour des raisons de sécurité, indiquent les défis continus pour fournir des garanties adéquates pour les produits d’IA.
La question plus large de la modération de contenu et des garanties dans les outils d’IA a suscité une controverse importante. Bien que ces outils aient le potentiel de générer du contenu innovant et créatif, le manque de garanties efficaces soulève des inquiétudes quant à leur impact sur les normes et les valeurs de la société. Alors que la technologie continue de progresser, trouver un équilibre entre la créativité et la mise en œuvre responsable de l’IA reste un défi crucial pour les développeurs et les régulateurs.
Section FAQ :
Q : Qu’est-ce que Copilot Designer, l’outil d’IA de Microsoft pour la génération d’images ?
A : Copilot Designer est un outil d’IA développé par Microsoft qui génère des images en fonction des indications et des entrées de l’utilisateur.
Q : Quelles sont les préoccupations soulevées concernant Copilot Designer ?
A : L’ingénieur Shane Jones a exprimé des préoccupations concernant les images perturbantes et étranges générées par Copilot Designer. Il a remarqué des cas où l’outil produisait des images de démons et de sang en réponse à certaines phrases, ainsi que des femmes sexualisées en lingerie à côté de crashs de voitures violents.
Q : Microsoft a-t-il répondu aux préoccupations soulevées concernant Copilot Designer ?
A : Malgré les efforts de Jones pour sensibiliser au sein de Microsoft, la société n’a pas répondu de manière adéquate à ses demandes de suspension du générateur d’images.
Q : Qu’est-ce que le générateur d’images Dall-E 3 basé sur l’IA ?
A : Le générateur d’images Dall-E 3 est un outil développé par OpenAI utilisé par Copilot Designer, ainsi que d’autres outils d’IA de Microsoft.
Q : Microsoft a-t-il envisagé de mettre en pause Copilot Designer ?
A : Malgré les critiques et les problèmes de modération de contenu, Microsoft semble peu enclin à mettre Copilot Designer en pause, comme l’indique la réponse de la société aux préoccupations de Jones.
Q : D’autres générateurs d’images basés sur l’IA ont-ils connu des problèmes de sécurité ?
A : Oui, des incidents impliquant d’autres générateurs d’images basés sur l’IA, comme Google Gemini, ont entraîné des pauses temporaires en raison de problèmes de sécurité.
Termes clés et jargon :
– IA : Intelligence Artificielle, fait référence au développement de systèmes informatiques capables d’effectuer des tâches qui nécessitent généralement l’intelligence humaine.
– Générateur d’images : Fait référence à des logiciels ou des outils d’IA capables de créer ou de générer des images en fonction de diverses entrées ou indications.
– Modération de contenu : L’acte de surveiller et de contrôler le contenu en ligne pour garantir sa conformité à certaines directives ou normes.
– Garanties : Mesures ou précautions mises en place pour se protéger contre les risques ou dangers potentiels.
– Normes et valeurs de la société : Fait référence au comportement, aux attitudes et aux croyances acceptés au sein d’une société ou d’une communauté spécifique.
Liens suggérés :
– Microsoft
– OpenAI
– CNBC
The source of the article is from the blog yanoticias.es