Les principales entreprises technologiques du monde entier se sont associées pour élaborer des normes internationales pour les technologies IA, une collaboration qui inclut des noms renommés tels que Ant Group, Baidu, Tencent Holdings de Chine aux côtés d’OpenAI, Microsoft et Nvidia des États-Unis. Ce consortium a annoncé lors d’un événement parallèle de la Conférence des Nations Unies sur la Science et la Technologie à Genève, en Suisse, qu’ils avaient publié deux normes mondiales axées sur l’IA synthétique et les grands modèles linguistiques (LLM).
Les normes visent à fournir un cadre robuste pour authentifier et sécuriser les applications d’IA synthétique, de plus en plus utilisées dans des services tels que le ChatGPT d’OpenAI et le Copilot de Microsoft. Avant cela, Baidu a lancé son propre chatbot IA, Ernie Bot, tandis que Tencent et Ant ont introduit leurs LLM respectifs. Un effort collectif des chercheurs de Nvidia, Meta Platforms et d’autres entreprises a abouti à la norme GenAI, qui est également soutenue par des géants de l’industrie comme Amazon, Google et Microsoft.
La deuxième norme, conçue par 17 employés d’Ant Group, décrit une série de méthodes d’attaque diverses pour tester la résilience des grands modèles linguistiques face au piratage. Cet ensemble de lignes directrices a été examiné par Nvidia, Microsoft, Meta Platforms, entre autres.
Dans un environnement d’avancement rapide de l’IA, les opérateurs technologiques soulignent l’importance de mesures de sécurité complètes. Sam Altman, PDG d’OpenAI, a souligné la priorité d’investir dans des protocoles de sécurité pour l’utilisation des applications d’IA. De plus, cette initiative fait suite à la récente réglementation de la Chine sur GenAI et les services associés pour garantir le respect des valeurs sociales fondamentales. Les réglementations internationales en matière d’IA, y compris la « Recommandation sur l’éthique de l’IA » de l’UNESCO de 2021 adoptée par 193 pays membres, précèdent la popularité de GenAI et mettent en lumière la conversation mondiale continue sur la gouvernance de l’IA. Les experts prédisent que l’implication de ces grandes entreprises de l’industrie fera évoluer de manière significative la gestion de la technologie IA, reflétant les avancées ambitieuses de la Chine dans la course mondiale à l’IA.
Questions et Réponses Importantes :
Q : Pourquoi faut-il des normes internationales pour les technologies de l’IA ?
R : Alors que les technologies de l’IA telles que l’IA synthétique et les LLM deviennent de plus en plus essentielles aux différents services de l’industrie, il est de plus en plus nécessaire de garantir que ces systèmes sont sûrs, fiables et conformes à des considérations éthiques. Les normes internationales aident à créer un cadre unifié qui peut guider le développement, le déploiement et la gestion des applications d’IA, garantissant qu’elles sont sécurisées et que les meilleures pratiques sont suivies à l’échelle mondiale.
Q : Quels sont les défis auxquels sont confrontées l’établissement des normes de sécurité et de tests en matière d’IA ?
R : L’un des principaux défis est le rythme rapide des avancées technologiques en matière d’IA, qui peut dépasser la vitesse à laquelle les normes sont élaborées et mises en œuvre. Un autre défi est de parvenir à un consensus parmi les différentes parties prenantes ayant des priorités et des valeurs différentes. De plus, il peut y avoir des écarts dans l’application et le respect des normes entre différents pays et organisations.
Q : Quelles controverses sont associées à l’IA et l’établissement de normes internationales ?
R : Certaines des controverses incluent des préoccupations concernant la confidentialité, les biais potentiels dans les systèmes d’IA, garantir un accès équitable à la technologie et l’impact de l’IA sur l’emploi. Il existe également un débat sur qui devrait établir les normes – que ce soient les acteurs de l’industrie, les gouvernements ou les organismes internationaux – et comment concilier différentes perspectives culturelles et éthiques sur la gouvernance de l’IA.
Q : Quels sont les avantages d’établir des normes internationales de sécurité et de test en matière d’IA ?
R : Cela favorise la confiance et la coopération entre les entreprises technologiques et les utilisateurs, garantit un niveau de sécurité de base contre les utilisations malveillantes de l’IA, facilite la conformité réglementaire, établit une référence en termes de qualité et de sécurité, et peut aider à atténuer les risques tels que la diffusion de désinformations générées par l’IA.
Q : Quels sont les inconvénients ?
R : Les normes internationales peuvent être complexes et coûteuses à mettre en œuvre, surtout pour les petites entreprises. Il pourrait y avoir une résistance de la part des entreprises ne voulant pas partager d’informations propriétaires. Des normes surévaluées peuvent entraver l’innovation, et il peut également y avoir des défis juridiques et logistiques pour synchroniser les normes dans différentes juridictions légales.
Défis et Controverses Clés :
– Suivre le rythme des avancées rapides des technologies de l’IA.
– Équilibrer l’innovation avec la nécessité de garantir la sécurité et les considérations éthiques.
– Aborder les différences culturelles et les perspectives variées sur la confidentialité et la gouvernance des données.
– Garantir la participation d’un groupe diversifié de parties prenantes et éviter la domination par quelques grandes entreprises technologiques.
– Faire face aux biais potentiels dans l’IA et s’assurer que les applications d’IA sont équitables et ne renforcent pas les inégalités sociales.
Avantages :
– Sécurité et fiabilité accrues des systèmes d’IA.
– Amélioration de la confiance des consommateurs dans les applications d’IA.
– Promotion de la collaboration internationale et de partage des connaissances.
– Fourniture de clarté et de guidance aux développeurs et utilisateurs d’IA.
– Soutien au développement et à l’utilisation éthiques de l’IA.
Inconvénients :
– Risque de limiter l’innovation si les normes sont trop restrictives.
– Difficulté à garantir la conformité et l’application à l’échelle mondiale.
– Contraintes de ressources pour que les entités plus petites respectent les normes internationales.
– Le risque que les normes soient influencées par les intérêts des entreprises ou nations les plus puissantes.
Liens Pertinents:
Voici quelques liens vers les principaux domaines des organisations qui pourraient être liées aux normes internationales en matière d’IA :
– UNESCO
– OpenAI
– Microsoft
– Nvidia
Les URL fournies ci-dessus sont les domaines principaux des organisations respectives, qui ont été vérifiés au moment de la rédaction de cet article.