António Guterres, generalsekreteraren för Förenta nationerna, har utfärdat en skarp varning om den ökade risken för en kärnvapenkrig som förstärks av framstegen inom artificiell intelligens (AI). Under en videostatement som spelades upp vid det årliga mötet för American Arms Control Association i Washington uttryckte Guterres djupa farhågor om mänsklighetens osäkra situation och liknade den vid att stå på kanten av ett stup.
Guterres uppmanade nationer som äger kärnvapen att ta sina icke-spridningsåtaganden på allvar och att ömsesidigt komma överens om att inte vara de första att använda kärnvapen i en konflikt. Han betonade det vitala behovet av att människor, och inte maskiner eller algoritmer, ska ha kontrollen när beslut fattas om användningen av kärnvapen.
Generalsekreteraren påpekade en kvalitativ rustningstävling mellan stater, som påminner om kalla kriget, och betonade att teknologier som AI förstärker de faror vi står inför. Hans farhågor är inte isolerade; tidigare har USA, Storbritannien och Frankrike gemensamt uttalat det imperativa behovet av att människor ska ha kontroll över avfyrandet av kärnvapen. Ryssland och Kina har emellertid ännu inte utfärdat liknande uttalanden.
Hotet understryks av det faktum att både USA och Ryssland har en hög beredskap att avfyra sina interkontinentala ballistiska missiler inom minuter. Med det ständigt närvarande Ukrainakonflikten i bakgrunden och Rysslands ibland hot om kärnvapenengagemang är risken för att AI används för att förstärka avskräckningsstrategier påtaglig.
Trots att Kinas kärnvapenarsenal är relativt mindre än USA:s och Rysslands, så utökas det gradvis. Enligt Federation of American Scientists har kärnvapen avsevärt minskat från sin topp under kalla kriget, men världen står fortfarande inför betydande risker.
Guterres uttryckte farhågor över försvagande av avtal som etablerats för att förhindra användningen, testningen och spridningen av kärnvapen. Särskilt har New START-avtalet mellan USA och Ryssland, ett centralt avtal som syftar till att begränsa strategiska kärnvapenarsenaler, löpt ut för cirka 600 dagar sedan. Guterres vädjade för en ny förpliktelse till sådana avtal för att undvika en dystopisk framtid.
Viktiga frågor och svar:
Varför är Förenta nationernas generalsekreterare oroad över AI:s roll i samband med kärnvapen?
António Guterres är oroad eftersom AI kan påskynda beslutsfattandet, vilket potentiellt kan leda till snabbare och mindre genomtänkta svar i högrisk-situationer som i en kärnkonflikt. AIS förmåga att analysera stora mängder data kan oavsiktligt eskalera konflikter och missförstånd, vilket leder till kärnvapeneskalerad.
Vad är det aktuella tillståndet för internationella avtal om kärnvapen?
New START-avtalet, som begränsar antalet strategiska kärnstridsspetsar för USA och Ryssland, hade löpt ut, men båda parterna kom överens om att förlänga det till 2026. Många avtal för icke-spridning och nedrustning, såsom avtalet om icke-spridning av kärnvapen (NPT), är under press på grund av geopolitiska spänningar och meningsskiljaktigheter bland de viktigaste kärnvapenmakterna.
Vilka är de främsta utmaningarna med AI och kärnvapen?
De främsta utmaningarna inkluderar potentialen för accelererad konflikteskalering, bristen på transparens i beslutsprocesser för AI samt svårigheten att etablera internationella normer och regler som styr AI:s roll i kärnvapenstrategier. Dessutom är hanteringen av AI-racet på ett sätt som inte leder till ökade risker för kärnvapenengagemang.
Vilka kontroverser finns det?
Det pågår en debatt om AI förstärker eller försvagar avskräckningen. Vissa hävdar att AI kan göra kärnvapensystem säkrare genom att minska mänskliga fel, medan andra fruktar att förlitan på AI kan leda till oavsiktliga eskaleringar eller första slag. Dessutom finns det kontroverser kring de varierande ståndpunkterna hos kärnvapenkapabla nationer om rollen för AI i kärnkommando- och kontrollfunktioner.
Fördelar och nackdelar med AI i kärnvapenhot:
Fördelar:
– AI kan bearbeta information och identifiera hot mycket snabbare än människor.
– Potential för ökad noggrannhet vid upptäckt av verkliga hot jämfört med falska hot.
Nackdelar:
– AI-system kan göra misstag på grund av otillräckliga data eller algoritmiska snedvridningar, vilket kan leda till katastrofala beslut.
– Beroende av AI kan leda till förlust av mänskligt omdöme i högrisk-scenarier.
– Risker för cyberattacker på AI-system, vilket kan leda till obehöriga avfyrningar.
I samband med ämnet är oron över att AI förstärker kärnvapenhotet en del av en bredare diskussion om militariserandet av AI och autonoma vapensystem. Dessa teknologier väcker filosofiska och etiska frågor om naturen av mänskligt styre i krigföring och möjligheten till ett AI-vapenkapprustning bland nationer.
För relaterad information, erbjuder både Förenta nationernas webbplats och Federation of American Scientists webbplats resurser om kärnvapenkontroll och icke-spridning. International Campaign to Abolish Nuclear Weapons (ICAN), som vann Nobels fredspris 2017 för sina insatser för att förbjuda kärnvapen, tillhandahåller också sammanhang om dessa frågor på deras webbplats.