OpenAI adopte une approche proactive pour répondre aux préoccupations concernant la sécurité et l’utilisation éthique de l’IA chez les adolescents et les familles. Dans une annonce récente, la société a révélé son partenariat avec Common Sense Media, une organisation à but non lucratif qui évalue les médias et la technologie destinés aux enfants, afin de développer des lignes directrices et du matériel pédagogique.
Dans le cadre de cette collaboration, OpenAI travaillera en étroite collaboration avec Common Sense Media pour créer des applications de chatbot « adaptées aux familles » dans la GPT Store, la place de marché d’OpenAI. L’objectif est de sélectionner des outils alimentés par l’IA qui rejoignent les normes d’évaluation et de notation de Common Sense, afin que les parents et les éducateurs puissent avoir confiance en ces applications.
Sam Altman, PDG d’OpenAI, a souligné l’impact positif de l’IA sur les familles et les adolescents et a exprimé sa confiance quant au renforcement des mesures de sécurité des outils d’OpenAI grâce à ce partenariat avec Common Sense Media. La société reconnaît l’importance de gagner la confiance et de rassurer les parents qui peuvent avoir une connaissance limitée des outils d’IA par rapport aux générations plus jeunes.
Cette collaboration intervient alors qu’OpenAI adopte le cadre d’évaluation de Common Sense pour la sécurité, la transparence et l’utilisation éthique des produits d’IA. Le cadre de Common Sense Media vise à fournir une « étiquette nutritionnelle » pour les applications alimentées par l’IA, en mettant en lumière leurs contextes d’utilisation ainsi que leurs avantages et leurs risques potentiels.
Le partenariat entre Common Sense Media et OpenAI vise à éduquer les familles et les éducateurs sur l’utilisation sûre et responsable des outils d’IA, y compris le chatbot populaire d’OpenAI, ChatGPT. En favorisant la sensibilisation et la compréhension, les deux organisations espèrent prévenir les conséquences négatives involontaires découlant de l’utilisation des technologies émergentes.
Alors qu’OpenAI fait face à une pression réglementaire concernant l’impact de ses applications GenAI, la société prend des mesures pour répondre aux préoccupations concernant la collecte de données, les déclarations fausses et les pratiques de gestion des informations. OpenAI reconnaît que bien que les outils GenAI puissent parfois fournir des informations inexactes et présenter des biais, ils travaillent en continu pour améliorer ces aspects.
Fait intéressant, les enfants et les adolescents ont de plus en plus recours à des outils d’IA comme ChatGPT pour obtenir une assistance académique ainsi qu’un soutien émotionnel. Selon un sondage réalisé par le Center for Democracy and Technology, un nombre significatif d’enfants ont utilisé ChatGPT pour demander de l’aide concernant l’anxiété, les problèmes de santé mentale, les problèmes d’amitié et les conflits familiaux.
Dans l’ensemble, le partenariat entre OpenAI et Common Sense Media représente un effort collaboratif visant à garantir que les technologies de l’IA bénéficient aux adolescents et aux familles tout en minimisant les risques potentiels. Grâce à une sélection responsable et à une éducation adéquate, OpenAI vise à gagner la confiance des parents et des décideurs, démontrant ainsi son engagement à promouvoir des résultats positifs grâce aux progrès de l’IA.
The source of the article is from the blog radardovalemg.com