Les principaux développeurs d’intelligence artificielle basés en Californie s’opposent à un projet de loi proposé qui impose des normes de sécurité strictes, y compris la mise en œuvre d’un « interrupteur d’arrêt » pour désactiver leurs modèles avancés d’IA. L’information provient d’un rapport du Financial Times, qui a détaillé l’examen législatif potentiel affectant les principales start-ups d’IA.
L’organe législatif californien envisage des mesures qui imposeraient de nouvelles restrictions aux entreprises technologiques de l’État. Ces conditions ciblent des start-ups d’IA de premier plan telles que OpenAI, Anthropic et Cohere, ainsi que des modèles de langage majeurs utilisés par des entreprises telles que Meta.
Le projet de loi exige que les groupes de développement de l’IA en Californie assurent aux agences de l’État qu’ils ne concevront pas de modèles avec des capacités dangereuses, comme la possibilité de créer des armes biologiques ou nucléaires ou d’aider aux cyber-attaques. De plus, les développeurs devraient rendre compte de leurs protocoles de test de sécurité et introduire un « interrupteur d’arrêt » pour leurs modèles.
Cependant, ces stipulations ont reçu un accueil froid de la part de nombreux représentants de la Silicon Valley. Leur argument suggère que les lois pourraient pousser les start-ups d’IA hors de l’État et entraver des plateformes comme Meta à travailler avec des modèles open source. Andrew Ng, un informaticien qui a dirigé des projets d’IA pour Google Alphabet et Baidu en Chine et qui siège au conseil d’administration d’Amazon, a commenté l’effet étouffant que ces règles pourraient avoir sur l’innovation, les comparant à un fardeau de risques de niveau science-fiction.
Les préoccupations concernant la croissance rapide de la technologie de l’IA et son immense potentiel ne cessent de croître. Elon Musk, un investisseur précoce dans OpenAI, a précédemment qualifié la technologie de « menace existentielle » pour l’humanité. Récemment, un collectif d’employés actuels et anciens d’OpenAI a publié une lettre ouverte mettant en lumière le manque de supervision gouvernementale suffisante des principales entreprises d’IA et les « risques sérieux » qu’elles posent pour l’humanité.
**Questions clés et Réponses :**
**Q : Quel est le principal objectif de la législation sur la sécurité proposée en Californie ?**
R : La législation proposée en Californie se concentre sur la mise en œuvre de normes de sécurité strictes pour les développeurs d’IA, y compris l’exigence d’un « interrupteur d’arrêt » pour désactiver les modèles avancés d’IA et des assurances selon lesquelles l’IA ne sera pas conçue avec des capacités dangereuses.
**Q : Qui serait affecté par la législation ?**
R : Les principales start-ups d’IA basées en Californie, telles que OpenAI, Anthropic et Cohere, ainsi que de grandes entreprises technologiques comme Meta qui développent ou utilisent des modèles d’IA avancés, seraient affectées.
**Q : Quelles sont les préoccupations des développeurs d’IA concernant la législation proposée ?**
R : Les développeurs d’IA craignent que la législation puisse étouffer l’innovation, imposer des exigences de déclaration onéreuses et potentiellement pousser les start-ups d’IA hors de Californie en raison du fardeau et de la nature restrictive des lois perçus.
**Q : Comment le public a-t-il réagi à la croissance de la technologie de l’IA et à ses risques potentiels ?**
R : La réaction du public inclut un mélange d’excitation face aux possibilités technologiques et de préoccupation concernant les risques potentiels. Certains acteurs éminents, comme Elon Musk, ont mis en garde contre l’IA en tant que « menace existentielle », tandis que d’autres préconisent davantage de surveillance et de mesures de sécurité.
**Principaux Défis ou Controverses :**
– **Innovation vs. Sécurité :** Concilier la promotion de l’innovation technologique avec la nécessité de garantir la sécurité publique est un défi majeur, avec des opinions divergentes sur la ligne à tracer.
– **Impact Économique :** Il y a une crainte que des réglementations strictes puissent nuire à l’économie locale en poussant les entreprises d’IA à se relocaliser dans des régions plus favorables aux affaires.
– **Faisabilité Technique :** Concevoir et mettre en œuvre un « interrupteur d’arrêt » fiable pour les systèmes d’IA est techniquement complexe et soulève des questions sur son efficacité dans tous les scénarios.
– **Compétitivité Mondiale :** Si la Californie impose des réglementations strictes, les entreprises pourraient trouver difficile de concurrencer au niveau international avec des entreprises de pays ayant des réglementations moins strictes.
**Avantages de la Législation Proposée :**
– **Sécurité Renforcée :** La législation pourrait conduire à des pratiques de développement d’IA plus sûres, réduisant ainsi le risque d’applications d’IA nocives.
– **Supervision Gouvernementale :** Une réglementation gouvernementale renforcée pourrait offrir des supervisions nécessaires, telles que prévenir la mauvaise utilisation de l’IA pour créer des armes ou soutenir des cyber-attaques.
**Inconvénients de la Législation Proposée :**
– **Étouffement de l’Innovation :** Des réglementations strictes pourraient freiner le rythme des avancées en matière d’IA et dissuader les start-ups d’innover ou de s’installer en Californie.
– **Déplacement Économique :** La croissance de l’industrie de l’IA pourrait ralentir en Californie, les emplois et les investissements pouvant se déplacer ailleurs.
Pour rester informé sur des informations et des discussions similaires concernant les développements en matière d’IA et la législation en Californie, vous pouvez visiter la page d’accueil du site Web du gouvernement de Californie en suivant ce lien – Gouvernement de l’État de Californie – pour des mises à jour et des actualités officielles. De même, des informations sur les implications plus larges de l’IA et des politiques publiques peuvent être consultées sur la page d’accueil de l’Institut pour l’Intelligence Artificielle Axée sur l’Humain de l’Université de Stanford – Stanford HAI.
The source of the article is from the blog anexartiti.gr