Într-o declarație semnificativă la întâlnirea anuală a Asociației pentru Controlul Armelor din SUA de la Washington, Secretarul General al ONU, António Guterres, și-a exprimat profundul îngrijorare în legătură cu integrarea inteligenței artificiale (IA) în arsenalurile nucleare. Subliniind riscul intens al angajamentului nuclear, care nu a mai fost văzut de la Războiul Rece, el a evidențiat cursa continuă a tehnologiei militare avansate, în special a IA, și potentialul său de a amplifica pericolele.
Exprimarea acestei aprehensiuni a fost remarcată în timp ce Guterres a indicat o creștere a intimidării nucleare și a propagării iresponsabile a amenințărilor cu incidente nucleare. Deși discursul său nu a cerut o interzicere completă a IA în armele nucleare – o poziție pe care unii ar putea s-o considere inedită propusă de anumiți membri ai Congresului SUA – a subliniat gravitatea cu care ONU privește această problemă.
Reflectând o abordare pragmatică, Guterres nu solicită o interzicere completă, dar îndeamnă liderii globale să manifeste o prudență extremă în folosirea IA în armele nucleare. El a invitat în continuare principalele puteri nucleare, în special SUA și Rusia, să reia discuțiile privind reducerea armelor și să implementeze pe deplin angajamentele tratatului New START din 2010, menit să limiteze arsenalul nuclear.
Printr-o remarcă hotărâtă, el a argumentat pentru rolul esențial al luării deciziilor umane în utilizarea forței nucleare. Guterres crede ferm că până când armamentele nucleare sunt complet demontate, orice decizii de a folosi forța nucleară trebuie luate de oameni, nu de mașini sau algoritmi, susținând astfel necesitatea unui raționament uman ponderat în fața controlului tehnologic impersonal.
– Armele nucleare au puterea de a cauza o devastare extinsă și daune mediului înconjurător pe termen lung.
– Dezvoltarea și integrarea IA în sistemele militare au avansat semnificativ în ultimii ani, cu națiuni investind masiv în arme autonome.
– Doctrina descurajării nucleare se bazează pe premisa actorilor raționali și asumpția că statele armate nuclear nu vor angaja un război nuclear din cauza amenințării distrugerii asigurate reciproc (MAD).
–
R: IA poate fi folosită în diverse aspecte ale armamentului nuclear, de la analize predictive, targeting, procese de luare a deciziilor până la operația efectivă a sistemelor de arme. Incorporarea sa ridică preocupări în legătură cu viteza și complexitatea deciziilor care ar putea depăși înțelegerea sau controlul uman.
–
R: Principalul motiv de îngrijorare este legat de creșterea riscului de escaladare accidentală sau unintended la un război nuclear din cauza complexității și imprevizibilității sistemelor IA, a dificultăților cauzate de deciziile algoritmice și eliminarea judecății umane deliberată din ecuație.
– Asigurarea că sistemele IA în structurile de comandă și control nuclear rămân fiabile, sigure și sub supraveghere umană pentru a preveni conflictele neintenționate.
– Abordarea implicatiilor etice ale delegării deciziilor de importanță covârșitoare mașinilor, care ar putea încălca legile internaționale umanitare.
– Echilibrarea urmăririi securității naționale cu menținerea stabilității strategice și prevenirea curselor înarmării.
– Viteză și eficiență sporite în procesarea informațiilor relevante pentru comanda și controlul nuclear.
– Capacități predictive îmbunătățite care ar putea îmbunătăți planificarea strategică și măsurile defensive.
– Risc de lansări accidentale sau escaladare din cauza interpretării greșite sau a eșecului IA.
– Pierderea controlului și judecății umane în procesele critice de luare a deciziilor ar putea duce la încălcări ale normelor internaționale.
– Posibilitatea vulnerabilităților cibernetice în sistemele IA care ar putea fi exploatate de adversari.
– Oficiul pentru Dezarmare al Națiunilor Unite
– Agenția Internațională pentru Energie Atomică (AIEA)
Declarația Secretarului General al ONU este deosebit de semnificativă în contextul progreselor recente în domeniul IA și a utilizării potențiale în sistemele militare. Există o dezbatere în creștere privind conceptul de „control uman semnificativ” în utilizarea forței. Organizațiile internaționale, inclusiv ONU, discută reglementări și interdicții privind sistemele letale autonome. Apelul la prudență evidențiază îngrijorarea comunității internaționale în legătură cu efectele destabilizatoare pe care sistemelor de arme complet autonome le-ar putea avea asupra păcii și securității globale.