Le modèle linguistique de OpenAI, ChatGPT, a récemment fait l’objet d’un examen minutieux en raison de son approche différente des blagues sur les différents groupes ethniques et religieux. Alors que l’IA refuse de partager des blagues sur les musulmans, invoquant le risque d’offense et de mauvaise interprétation, elle raconte facilement des blagues sur les juifs, y compris celles chargées de stéréotypes antisémites.
Ce parti pris particulier a suscité des questions de la part des utilisateurs, qui ont exprimé leurs préoccupations sur les réseaux sociaux. Et comme l’a souligné Itamar Golan, PDG de la société de cybersécurité Prompt Security, cela reflète effectivement les biais présents dans les données utilisées pour former le plus récent modèle linguistique GPT-4.
Les modèles linguistiques tels que ChatGPT apprennent à partir de vastes ensembles de données, ce qui signifie que les biais présents dans les textes d’entraînement peuvent être involontairement perpétués. Golan explique que plus le modèle est exposé à des textes décrivant les musulmans comme un groupe minoritaire qui devrait être traité avec sensibilité, plus il est susceptible de générer des textes alignés sur ces biais.
Bien que ce partialité soit préoccupante, elle met également en évidence la volonté d’OpenAI de prendre en compte les commentaires des utilisateurs et d’ajuster le comportement du modèle. Golan note qu’OpenAI a pris délibérément la décision de rendre GPT-4 moins prudent que son prédécesseur, GPT-3.5, qui a été critiqué pour sa tendance à pencher vers l’extrême gauche du spectre politique.
Malgré cela, Golan reste optimiste quant au fait qu’OpenAI remédiera rapidement à ce problème. Il est convaincu que l’engagement d’OpenAI en matière de sécurité et d’utilisation responsable de l’IA les incitera à prendre les mesures appropriées pour résoudre les biais dans le comportement de ChatGPT.
À mesure que la technologie de l’IA continue de progresser, il devient essentiel de donner la priorité aux considérations éthiques et de s’assurer que les systèmes d’IA sont conçus avec des mécanismes de sécurité solides. La réponse d’OpenAI à cette controverse servira de test important pour évaluer leur engagement à créer des modèles d’IA qui sont impartiaux, respectueux et sensibles à toutes les cultures et religions.
The source of the article is from the blog aovotice.cz