Le rôle de l’intelligence artificielle dans la guerre moderne pose de nouvelles menaces
Dans le paysage en constante évolution de la guerre, les systèmes d’armes autonomes alimentés par l’intelligence artificielle (IA) constituent une préoccupation majeure pour la sécurité mondiale. Le professeur Karl Hans Bläsius, professeur émérite en informatique spécialisé dans l’IA, tire la sonnette d’alarme sur le potentiel de ces technologies à déclencher des cycles d’escalade rapide échappant au contrôle humain.
Le professeur Bläsius souligne les avantages de l’autonomie en technologie, tels que le potentiel des voitures autonomes et des robots dans des environnements dangereux. Cependant, il met en garde contre les risques graves associés aux armes fonctionnant de manière autonome et conçues pour la destruction. Il affirme que l’automatisation de l’acte de tuer est indésirable et alerte sur les avancées particulièrement dangereuses, y compris celles liées aux armes nucléaires.
Faisant des parallèles avec les algorithmes de trading à haute fréquence du monde financier, qui ont provoqué des crashes soudains du marché appelés « flash crashes », le professeur Bläsius met en garde contre le fait que les armes pilotées par IA pourraient également engager des interactions imprévues, entraînant des « flash wars » rapides et incontrôlables. Ces scénarios décrivent un futur où les systèmes automatisés se livrent à la guerre à une vitesse dépassant la capacité humaine de contre-attaque, créant un effet de spirale d’agression et de contre-agression.
Met en lumière l’utilisation actuelle de l’IA dans la détermination des cibles militaires, comme l’utilisation par Israël pour identifier les combattants du Hamas et leurs emplacements, le professeur Bläsius exprime des inquiétudes quant au manque de vérification humaine dans ces situations, qui pourraient finalement amener les machines à décider qui vit et qui meurt, y compris des civils.
Bläsius conclut en abordant le besoin d’IA pour gérer l’immense complexité et la pression temporelle des opérations militaires modernes. Cependant, il reconnaît la nature problématique de ces développements, étant donné leur potentiel à contourner le jugement humain et les implications éthiques qui en découlent.
Défis et controverses des armes autonomes pilotées par l’IA
Les armes autonomes pilotées par l’IA soulèvent un ensemble de questions et de défis complexes qui ont suscité la controverse dans divers secteurs, notamment militaire, politique, éthique et juridique. Voici quelques-uns des principaux défis et controverses :
…
[…Le reste du contenu a été tronqué car il dépasse la limite de caractères. Veuillez le scinder en parties plus petites si vous souhaitez que je continue la traduction.]