Dirbtinio intelekto vaidmuo kariuomenės konfliktuose iškelia etikos debatus
Intensyviai diskutuojant apie etines pasekmes deleguojant karą dirbtinei intelektui (AI), Samas Altmanas, OpenAI generalinis direktorius ir garsus figūra AI pramonėje, pripažįsta šios problemos sudėtingumą. Jis padalijo šias įžvalgas per dialogą apie „Geopolitinius pokyčius AI amžiuje“, organizuotą Vašingtone Esantys Brookings instituto.
Hipotetinių greitų gynybos scenarijų vertinimas
Altmanas buvo pristatytas hipotetiniu scenarijumi, kai Šiaurės Korėja atakuoja Seulą staigiu puolimu, skatinant Pietų Korėją pasikliauti greitesniais AI valdomais atsakais, kad gautų apsaugą. Scenarijus aprašė situaciją, kai AI valdomi dronai nusileidžia 100 priešo kovos lėktuvų, dėl ko hipotetiškai žuvo Šiaurės Korėjos pilotai. Tai atvedė prie pamąstymų dėl sąlygų, kada AI galėtų būti patikėta priimti mirtinas sprendimus.
Entinties sprendimų ribos AI įsikišimui
Apsvarstęs dilemą, Altmanas išreiškė determinavimo sudėtingumą, kurį AI turėtų priimti, tokius kaip pasitikėjimas grėsme egzistavimu, tikrumas, reikalingas prieš veiksmą, ir galimas žmogiškas nuostolis. Jis pabrėžė, kad būtina sverti daugelį veiksnių prieš nustatant ribas AI vaidmeniui gyvybės ar mirties situacijose.
Altmano pozicija dėl AI ribojimų ir siekiamybių
Be to, Altmanas aiškinosi, kad jo ekspertizė neapima šių kariuomenės sprendimų, tikėdamasis, kad OpenAI nenorės dalyvauti tokiuose scenarijuose. Aptardamas platesnius geopolitinius AI pramonės poveikius, jis aiškiai nusistatė, palankiai vertindamas AI technologijos privalumus Jungtinės Valstijos ir jų sąjungininkams, kartu išreikšdamas humanitarinį norą, kad technologija atneštų naudos visai žmonijai, o ne tik toms šalims, kurių politikos OpenAI nepalaiko.
AI kare: Etiniai apmąstymai
Vienas iš svarbiausių klausimų, susijusių su AI kare yra: Kur turėtume nubrėžti liniją dėl AI savarankiškumo kariuomenės operacijose? Dabartinė tarptautinė teisė, pavyzdžiui, Ženevos konvencijos, nenumato AI sprendimų priėmimo sugebėjimų, kuriuos lydi teisinė pilka zona. Pagrindinis iššūkis yra atitikti poreikį greitiems, efektyviems gynybos veiksmams su moraline atskaitomybe ir strateginiu priežiūra.
Kitas svarbus klausimas yra: Kaip galime užtikrinti globalų bendradarbiavimą reguliuojant AI kare? Šis iššūkis susijęs su diplomatija ir tarpvalstybiniais santykiais, ir kontroversijos kyla iš geopolitinių įtampos ir skirtingų interesų tarp valstybių.
Naudojant AI kovos operacijose privalumai apima greitesnį duomenų apdorojimą, pagerintą stebėjimą ir tikslesnį taikymą, kuris gali sumažinti atsitiktinius sužalojimus ir riziką žmogiškiems karius. Tačiau trūkumai yra reikšmingi, įskaitant galimą kontroliuojamų sistemų kontrolės praradimą, etinius dilemas dėl AI sprendimų priėmimo gyvybės ar mirties situacijose ir AI ginklų varžybų eskalaciją su globaliais saugumo padariniais.
Čia yra susiję nuorodos daugiau informacijos apie AI ir karą:
– Brookings Institutas
– OpenAI
Vertinant šiuos faktorius, taip pat svarbu pagalvoti apie AI potencialą pertvarkyti galių dinamiką, padarydami pažangią technologiją prieinamą mažiau galingoms šalims, galbūt destabilizuojant tradicines karines pusiausvyras. Be to, saugumo rizikos, susijusios su AI kare, reikalingos griežtos apsaugos priemonės, kad būtų išvengta autonominių sistemų įsilaužimo ir piktnaudžiavimo. Galiausiai, vis labiau pradedama reikalauti išankstinio uždraudimo dėl mirtinų autonominės ginkluotės sistemų (LAWS), labai panašių į tuos, kurie skirti cheminės ir biologinės karą, vedantys į tarptautines diskusijas ir galimą sutarties plėtrą.
The source of the article is from the blog hashtagsroom.com