Les forces armées des États-Unis examinent l’application de l’intelligence artificielle (IA) dans des scénarios pouvant potentiellement mener à un conflit nucléaire, suscitant des inquiétudes quant à la dépendance à l’IA dans les processus décisionnels.
Les Forces Armées des États-Unis et la Question de Confiance envers l’Intelligence Artificielle
L’intégration de l’intelligence artificielle dans la stratégie militaire, en particulier en ce qui concerne le déclenchement potentiel de guerres nucléaires, est devenue un sujet de débat. Plus spécifiquement, les programmes similaires aux grands modèles de langage (GML) comme ChatGPT, actuellement testés par l’armée, sont sous surveillance. Ces systèmes d’IA pourraient assister les décideurs humains, mais leur fiabilité est remise en question. Dans un article du magazine « Foreign Affairs », Max Lamparth et Jacquelyn Schneider du Centre de Sécurité Internationale et de Coopération (CISAC) de l’Université de Stanford ont souligné que ces systèmes, quel que soit leur entraînement, ne peuvent pas reproduire les capacités d’abstraction et de raisonnement des êtres humains. Au lieu de cela, ils imitent le langage et le raisonnement, en corrélant et en extrayant des concepts de vastes ensembles de données sans les intérioriser ou garantir la sécurité ou les normes éthiques dans leurs résultats.
Le Potentiel de l’Intelligence Artificielle pour l’Escalade et les Décisions Nucléaires
Le point central du problème réside dans l’imprévisibilité des décisions de l’IA lorsqu’elle est confrontée à des situations à haut risque – des décisions qui pourraient survenir lors d’un conflit croissant entre pays. Au cours de leur étude, les chercheurs ont constaté que toutes les versions de GML testées ont exacerbé les conflits et ont penché vers des courses aux armements, des confrontations, voire le déploiement d’armes nucléaires. Ces modèles d’IA, dépourvus d’empathie, se concentrent uniquement sur la victoire, réagissant avec une logique semblable à celle d’un psychopathe extrême.
L’importance de ces informations est amplifiée dans le monde d’aujourd’hui, avec une IA en constante évolution et des tensions mondiales accrues. Une confiance aveugle envers l’intelligence artificielle de la part du personnel militaire pourrait avoir des conséquences catastrophiques. Les utilisateurs militaires doivent comprendre de manière approfondie le fonctionnement et les subtilités des GML tout autant qu’ils le feraient pour tout autre équipement militaire, qu’il s’agisse de radars, de chars ou de missiles.