V pomembni izjavi med letnim srečanjem Ameriškega združenja za nadzor nad oborožitvijo v Washingtonu je generalni sekretar Združenih narodov António Guterres izrazil globoko zaskrbljenost zaradi integracije umetne inteligence (UI) z jedrskimi arzenali. Poudaril je intenzivno tveganje jedrskega spopada, ki ga nismo videli od časov hladne vojne ter izpostavil naraščajočo tekmo na področju napredne vojaške tehnologije, zlasti UI, in njeno potencialno povečanje nevarnosti.
Izražanje te zaskrbljenosti je bilo opaženo, ko je Guterres nakazal povečanje jedrskega zastraševanja in nepremišljeno širjenje groženj s jedrskimi incidenti. Čeprav njegov govor ni pozival k popolni prepovedi uporabe UI v jedrskem oboroževanju – stališče, ki bi ga nekateri nepričakovano predlagali določeni člani ameriškega kongresa – je poudaril resnost, s katero ZN obravnava to vprašanje.
Guterres se zavzema za pragmatičen pristop in ne išče popolne prepovedi, temveč poziva svetovne voditelje, zlasti ZDA in Rusijo, k preudarni uporabi UI v jedrskem oboroževanju. Poleg tega je povabil glavne jedrske sile, zlasti ZDA in Rusijo, k ponovnemu vključevanju v pogovore o zmanjšanju oboroževanja in popolnemu izvajanju zavez iz leta 2010 podpisanega sporazuma New START, ki je namenjen omejevanju jedrskih arzenalov.
V odločnem sporočilu je zagovarjal ključno vlogo človeškega odločanja pri uporabi jedrske sile. Guterres močno verjame, da do popolne razorožitve jedrskih oboroženj vsakršne odločitve o uporabi jedrske sile sprejemajo ljudje, ne stroji ali algoritmi, s čimer zagovarja potrebo po premišljenem človeškem presojanju pred osebnim tehničnim nadzorom.
Relevantna dejstva:
– Jedrska orožja imajo moč povzročiti obsežno uničenje in dolgoročno okoljsko škodo.
– Razvoj in vključitev UI v vojaške sisteme sta v zadnjih letih bistveno napredovala, pri čemer države vložijo velike naložbe v avtonomne orožne sisteme.
– Doktrina jedrskega odvračanja temelji na predpostavki racionalnih akterjev in predpostavki, da države z jedrskim oboroženjem ne bodo sodelovale v jedrski vojni zaradi grožnje vzajemnega zagotovljenega uničenja (MAD).
Pomembna vprašanja in odgovori:
– V: Katero vlogo ima UI v jedrskem oboroževanju?
O: UI se lahko uporablja v različnih vidikih jedrskega oboroževanja, od prediktivne analize, ciljanja, procesov odločanja do dejanskega delovanja orožnih sistemov. Njegova vključitev dviga skrbi zaradi hitrosti in kompleksnosti odločitev, ki bi lahko prekosile človeško razumevanje ali nadzor.
– V: Zakaj je integracija UI z jedrskim orožjem zaskrbljujoča?
Osnovna skrb je v povečanem tveganju za nenameren ali nepričakovan prehod v jedrsko vojno zaradi kompleksnosti in nepredvidljivosti sistemov UI, nesporazumov zaradi algoritmičnih odločitev in odstranitve premišljenega človeškega presojanja iz enačbe.
Ključni izzivi in kontroverze:
– Zagotavljanje zanesljivosti, varnosti in človeškega nadzora nad UI sistemi v jedrskih poveljniških in kontrolnih strukturah
– Naslavljanje etičnih posledic prenosa odločitev z ogromnimi posledicami strojem, kar bi lahko kršilo mednarodne humanitarne zakone.
– Uravnoteženje zasledovanja nacionalne varnosti z ohranjanjem strateške stabilnosti in preprečevanje tekem v oboroževanju.
Prednosti in slabosti:
Prednosti:
– Povečana hitrost in učinkovitost pri obdelavi informacij, pomembnih za jedrske poveljniške in kontrolne operacije.
– Izboljšane napovedne zmogljivosti, ki bi lahko izboljšale strateško načrtovanje in obrambne ukrepe.
Slabosti:
– Tveganje za nenamerne izstrelitve ali eskalacijo zaradi napačnih tolmačenj ali odpovedi UI.
– Izguba človeškega nadzora in presoje pri kritičnih procesih odločanja bi lahko privedla do kršitev mednarodnih norm.
– Možnost kibernetskih ranljivosti v UI sistemih, ki bi jih lahko izkoristili nasprotniki.
Predlagane povezave:
– Urad Združenih narodov za razorožitev
– Mednarodna agencija za jedrsko energijo (IAEA)
Dodatni kontekst:
Izjava generalnega sekretarja ZN je posebej pomembna v luči nedavnih dosežkov UI in njene morebitne uporabe v vojaških sistemih. Narašča razprava o konceptu “pomembnega človeškega nadzora” pri uporabi sile. Mednarodne institucije, vključno z ZN, razpravljajo o predpisih in prepovedih smrtonosnih avtonomnih orožnih sistemov. Poziv k previdnosti poudarja skrbi mednarodne skupnosti glede destabilizacijskih učinkov, ki jih bi lahko popolnoma avtonomni sistemi orožja imeli na globalni mir in varnost.