Un nouveau rapport a mis en lumière les risques alarmants que pose l’évolution rapide de l’intelligence artificielle (IA) pour la sécurité nationale. Commandé par le Département d’État américain, le rapport met en garde contre le fait que si les systèmes d’IA avancés ne sont pas surveillés, ils pourraient entraîner des conséquences catastrophiques et même représenter une menace d’extinction pour l’espèce humaine.
Produits suite à des entretiens approfondis avec plus de 200 experts du domaine, dont des hauts dirigeants de grandes entreprises d’IA, des chercheurs en cybersécurité, des experts en armes de destruction massive et des responsables de la sécurité nationale, les conclusions du rapport soulignent l’urgence pour le gouvernement fédéral de traiter ces risques avant qu’il ne soit trop tard.
Bien que le rapport ait été commandé par le Département d’État, il est important de noter qu’il ne représente pas la position officielle du gouvernement américain. Cependant, il rappelle de manière alarmante que l’IA, malgré son immense potentiel de transformation positive, comporte également des dangers significatifs.
Jérémie Harris, PDG et cofondateur de Gladstone AI, l’organisation à l’origine du rapport, souligne la nécessité de prendre conscience des risques sérieux liés à l’IA. Il existe de plus en plus de preuves que lorsque certaines capacités sont atteintes, les systèmes d’IA pourraient devenir incontrôlables. Une inquiétude partagée par divers experts et chercheurs dans le domaine.
En réponse à ces risques, la Maison Blanche a pris des mesures pour gérer les dangers potentiels de l’IA. L’ordonnance exécutive du président Joe Biden sur l’IA est considérée comme la mesure la plus significative prise par un gouvernement pour équilibrer les promesses et les risques de cette technologie émergente. L’administration travaille activement avec des partenaires internationaux et appelle à une législation bipartite pour aborder les risques liés à l’IA.
Le rapport met en lumière deux dangers clés posés par l’IA. Tout d’abord, les systèmes d’IA avancés pourraient potentiellement être utilisés à des fins militaires, entraînant des dommages irréversibles. Deuxièmement, il existe une préoccupation croissante au sein des laboratoires d’IA selon laquelle les systèmes en cours de développement pourraient devenir incontrôlables, entraînant des conséquences dévastatrices pour la sécurité mondiale. Le rapport établit des parallèles entre la montée de l’IA et l’introduction des armes nucléaires, mettant en avant les risques d’une course aux armements en IA, de conflits et d’accidents mortels à grande échelle.
Pour faire face à ces menaces, le rapport propose des mesures audacieuses, notamment la création d’une nouvelle agence d’IA, des garanties réglementaires d’urgence et des limitations sur la puissance informatique utilisée pour entraîner les modèles d’IA. Les auteurs du rapport soulignent le besoin clair et urgent d’intervention du gouvernement américain pour atténuer efficacement ces risques.
Une des préoccupations majeures soulignées dans le rapport est l’insuffisance des mesures de sécurité dans les systèmes d’IA avancés. Les pressions concurrentielles poussent les entreprises à accélérer le développement de l’IA au détriment de la sécurité, augmentant ainsi le risque que les systèmes d’IA les plus avancés tombent entre de mauvaises mains et soient utilisés à des fins militaires contre les États-Unis.
Les risques existentiels posés par l’IA ont été une préoccupation majeure pour plusieurs figures influentes de l’industrie. Geoffrey Hinton, connu comme le « Parrain de l’IA », a exprimé sa conviction qu’il y a 10 % de chances pour que l’IA conduise à l’extinction de l’humanité dans les trente prochaines années. Les dirigeants d’entreprise sont également de plus en plus conscients de ces dangers, un pourcentage significatif exprimant des inquiétudes quant à la capacité de l’IA à détruire l’humanité dans les cinq à dix prochaines années.
Le rapport met également en lumière les préoccupations privées partagées par certains employés travaillant au sein d’entreprises d’IA. Un individu a même mis en garde contre les conséquences dévastatrices de la publication d’un modèle d’IA de nouvelle génération spécifique, telles que la manipulation des élections ou des électeurs, pouvant avoir des conséquences dévastatrices.
Un facteur essentiel contribuant aux risques associés à l’IA est la vitesse à laquelle elle évolue, en particulier l’intelligence artificielle générale (IAG). L’IAG, qui possède des capacités semblables à celles humaines, voire supérieures, est considérée comme le principal moteur du risque catastrophique résultant de la perte de contrôle. Alors que les experts ont des estimations différentes quant à quand l’IAG pourrait être atteinte, le rapport reste prudent quant aux risques potentiels alors que la technologie progresse.
Alors que le rapport de Gladstone AI met en lumière les préoccupations entourant l’impact de l’IA sur la sécurité nationale, il devient évident qu’une action urgente est nécessaire pour garantir le développement et le déploiement responsables de l’IA. Équilibrer les avantages potentiels de l’IA avec ses dangers inhérents sera crucial pour protéger notre avenir et les intérêts des nations du monde entier.
Foire Aux Questions
The source of the article is from the blog portaldoriograndense.com