Singapour a récemment dévoilé un projet de cadre de gouvernance pour l’intelligence artificielle générative (GenAI), mettant en évidence la nécessité de relever les défis émergents. Le cadre vise à s’appuyer sur le cadre de gouvernance existant de Singapour en matière d’IA, en mettant l’accent sur la déclaration d’incidents et la provenance du contenu. GenAI a le potentiel de surpasser les capacités traditionnelles de l’IA, mais comporte également des risques inhérents, selon la Fondation AI Verify et l’Autorité de développement des médias Infocomm (IMDA).
Reconnaissant l’impact mondial de l’IA, Singapour cherche à faciliter le dialogue international entre les décideurs politiques, les acteurs de l’industrie et la communauté de la recherche par le biais de ce cadre proposé. Le document intègre des propositions d’un précédent document de discussion publié par l’IMDA en juin, qui identifiait six risques associés à GenAI, notamment les hallucinations, les problèmes de droits d’auteur et les biais.
Le projet de cadre de gouvernance GenAI est centré sur neuf domaines clés que Singapour estime cruciaux pour établir un écosystème d’IA de confiance. Ces principes soulignent l’importance de la transparence, de l’explicabilité et de l’équité dans la prise de décision alimentée par l’IA. Le cadre fournit également des recommandations pratiques aux développeurs de modèles d’IA et aux décideurs politiques pour les premières étapes de mise en œuvre.
La provenance du contenu est mise en évidence comme l’un des éléments clés du cadre de gouvernance. Assurer la transparence dans la génération et la source du contenu est nécessaire pour lutter contre la désinformation, notamment dans le contexte de contenu généré par IA facilement créé, comme les deepfakes. Le projet de cadre suggère une collaboration avec les éditeurs pour intégrer des filigranes numériques et d’autres détails de provenance dans le contenu en ligne.
La sécurité est un autre aspect critique traité par le cadre. GenAI introduit de nouveaux risques de sécurité, tels que les attaques rapides et la fuite potentielle de données. Le projet propose le développement de concepts de sécurité intégrée, notamment la mise en œuvre de contrôles d’entrée en langage naturel et l’utilisation d’outils de médecine légale numérique à des fins d’enquête.
Singapour reconnaît la complexité de la gouvernance de l’IA et estime qu’une approche pratique et globale est nécessaire. Le pays sollicite activement des commentaires sur son projet de cadre jusqu’au 15 mars. Il souligne également la nécessité d’une collaboration internationale pour établir un consensus et une harmonisation entre les différents cadres de gouvernance de l’IA dans le monde, y compris son partenariat avec les États-Unis.
En conclusion, le projet de cadre de gouvernance de Singapour pour GenAI vise à créer un environnement sûr et fiable pour le développement et le déploiement des technologies d’IA. En abordant des domaines clés tels que la provenance du contenu et la sécurité, Singapour cherche à stimuler l’innovation tout en protégeant les utilisateurs. Le cadre constitue une étape importante dans la conversation mondiale sur la gouvernance de l’IA et invite les parties prenantes à donner leur avis.
The source of the article is from the blog lanoticiadigital.com.ar