Dirbtinio intelekto vaidmuo šiuolaikiniame kare kelia naujas grėsmes
Kintančiame karo kūrybos peizaže, dirbtinio intelekto (DI) valdomos autonominės ginklų sistemos yra globalios saugos aktualus klausimas. Prof. Karl Hans Bläsius, buvęs kompiuterijos mokslų profesorius, specializuotas dirbtiniame intelekte, perspėja apie galimybę šioms technologijoms sukelti greitą eskalacijos ciklų, nekontroliuojamų žmonių.
Prof. Bläsius pabrėžia technologijos autonomijos privalumus, tokius kaip potencialas naudoti savarankiškus automobilius ir robotus pavojingose aplinkose. Tačiau jis akcentuoja rimtas rizikas, susijusias su autonomiškai veikiančiais naikinimo ginklais. Jis teigia, kad žudymo automatizavimas yra nepageidaujamas ir perspėja apie ypač pavojingus pažanges, įskaitant tokius, kurie susiję su branduolinių ginklų.
Brėždamas lygius tarp finansų pasaulio didelės dažnio prekybos algoritmų, kurie sukėlė staigius rinkos krachus, žinomus kaip „flash krachai”, Prof. Bläsius perspėja, kad DI valdomi ginklai galėtų panašiai įsitraukti į nenumatytas sąveikas, kurios gali sukelti greitas ir nekontroliuojamas „flash karas”. Šie scenarijai vaizduoja ateitį, kurioje automatizuotos sistemos dalyvauja kare greičiau nei žmogus gali priešintis, sukuriant greitai augantį agresijos ir priešiškumų spiralę.
Pabrėždamas esamą DI naudojimą karinėje taikinio nustatymo srityje, tokį kaip Izraelio naudojimą identifikuoti Hamas kovotojus ir jų buvimo vietas, Prof. Bläsius išreiškia susirūpinimą dėl žmogiškos patvirtinimo stokos šiose situacijose, kas galiausiai gali vesti prie mašinų sprendimo, kuris išliko ir kuris mirė, įskaitant civilius gyventojus.
Bläsius baigia pažymėdamas poreikį DI vadybai šiuolaikinių karinių operacijų milžiniškoje sudėtingumoje ir laiko spaudime. Tačiau jis pripažįsta šių plėtros problematiškumą, dėl jų potencialo apeiti žmogiškąjį sprendimą ir etinius padarinius.
Iššūkiai ir kontroversijos dėl DI valdomų autonominė ginklų
DI valdomi autonominiai ginklai kelia daugybę sudėtingų klausimų ir iššūkių, kurie sukėlė kontroversiją įvairiose srityse, įskaitant karinę, politinę, etinę ir teisinę. Štai keletas pagrindinių iššūkių ir kontroversijų:
Atskaitomybė: Viena pagrindinių problemų su autonominėmis ginklų sistemomis yra klausimas, kas turi būti atsakingas nepageidaujamo sunaikinimo ar neteisingo mirties atveju. Be aiškių gairių, atsakingumo už veiksmus, įskaičiusius DI, priskyrimas gali būti iššūkus.
Etiniai apmąstymai: DI naudojimas kare kelia etikos klausimus apie žmogaus gyvybės devalvaciją. Mašina tiesiog negali vertinti žmogaus gyvybės, kylantys susirūpinimai, kad jų naudojimas kare gali rezultuoti didesniu polinkiu į konfliktą ir didesne gyvybių praradimu.
Politinio sprendimų priėmimo erozija: Tradiciškai karui eiti sprendimo priėmimas yra politinis, priimamas išrinktų atstovų ar lyderių. Su DI valdomomis sistemomis, kurios galėtų reaguoti į grėsmes milisekundėse, yra baimė, kad politinis procesas gali būti apgaubtas, ir karai galėtų būti pradėti neįvykdant reikalaujamo demokratinio proceso.
Karinis eskalavimas: Autonominiais ginklais gali lemti ginklavimosi varžybos, kad šalys siektų nenuostolių, lyginant su kitų galimybėmis. Tai gali lemti padidintas karines įtampos ir nestabilumą pasaulyje.
Klaidos rizika: DI valdomos sistemos yra pažeidžiamos techniniams sutrikimams ir neveikimams. Atveju programinės klaidos ar įsilaužimo atveju autonominiai ginklai gali patenkinti į nepageidaujamas ar neprognozuojamas elgesys, kuris gali eskaluotis į konfliktą.
Privalumai ir trūkumai
Privalumai:
– Padidėjusi efektyvumas ir greitis reaguojant į grėsmes
– Sumažinta rizika žmonėms kariams kovos situacijose
– Tiksli taikymas, kuris gali sumažinti atsitiktines žalos tam tikroje kaitoje
– Veikla aplinkose, kurios yra per pavojingos žmonėms
Trūkumai:
– Galimybė prarasti atskaitomybę ir sumažinti žmogaus priežiūrą
– Etiniai klausimai dėl žmogaus gyvybės vertės ir sprendimų priėmimo naudojant mirtinąją jėgą
– Galimybė klaidoms ar būti pažeistiems priešais
– Konflikto eskalavimo ir karinių konfliktų plitimo rizika („flash wars“)
– Dilema programuojant DI taikytis tarptautinės humanitarinės teisės
Pagrindiniai klausimai:
1. Kas atsakingas už veiksmus, įvykdytus autonominės ginklų sistemos?
2. Kaip gali DI vesti karą atitinkantys tarptautinės humanitarinės teisės nuostatas?
3. Kokios priemonės gali būti įdiegtos užtikrinti tinkamą žmogaus priežiūros autonominiais ginklais lygio?
4. Kaip tarptautinė bendruomenė gali užkirsti kelią autonominės DI valdomų ginklų plitimui ir eskalacijai?
Kol diskusija apie DI valdomus autonominius ginklus tęsiasi, Jungtinės Tautos yra vieta, kurioje šie iššūkiai yra aptariami, siekiant pasaulinio sutarimo dėl tokių ginklų reguliavimo ir kontrolės.
Apskritai, nors yra potencialių privalumų taikant DI kariniuose veiksmuose, trūkumai ir rizikos pabrėžia poreikį atsargiai apsvarstyti ir reguliuoti tarptautiniu lygiu. „Flash wars“ galimybė tarnauja kaip gėlė priminimas apie galimas pasekmes, plautis į DI taikymo kare be būtinųjų kontrolės mechanizmų ir balanso.