Uloga umjetne inteligencije u suvremenom ratovanju postavlja nove prijetnje
U evoluirajućem pejzažu ratovanja, autonomni sustavi oružja pokretani umjetnom inteligencijom (AI) su važna briga za globalnu sigurnost. Prof. Karl Hans Bläsius, umirovljeni profesor računalnih znanosti specijaliziran za AI, izražava zabrinutost zbog potencijala takvih tehnologija da pokrenu brze eskalacijske cikluse izvan ljudske kontrole.
Prof. Bläsius ističe prednosti autonomije u tehnologiji, poput potencijala za samovozeće automobile i robote u opasnim okruženjima. Međutim, ističe ozbiljne rizike povezane s autonomnim oružjem osmišljenim za uništavanje. Tvrdi da automatiziranje čina ubijanja nije poželjno i upozorava na posebno opasne napretke, uključujući one povezane s nuklearnim oružjem.
Uspoređujući s algoritmima visokofrekventnog trgovanja u financijskom svijetu, koji su izazvali nagla tržišna urušavanja poznata kao “flash crashovi”, prof. Bläsius upozorava da AI pokretana oružja također mogu sudjelovati u nepredvidivim interakcijama, rezultirajući brzim i nekontroliranim “flash ratovima.” Ovi scenariji prikazuju budućnost u kojoj se automatizirani sustavi uključuju u ratovanje brzinama izvan ljudske sposobnosti reakcije, stvarajući spiralu agresije i protuagresije.
Ističući već postojeću upotrebu AI u vojnom određivanju meta, poput korištenja Izraela za identifikaciju boraca Hamasa i njihovih lokacija, prof. Bläsius izražava zabrinutost zbog nedostatka provjere od strane ljudi u tim situacijama, što na kraju može dovesti do toga da strojevi odlučuju tko će živjeti, a tko će umrijeti, uključujući civile.
Bläsius zaključuje adresirajući potrebu za AI u upravljanju ogromnom složenošću i vremenskim pritiskom suvremenih vojnih operacija. Ipak, priznaje problematičnu prirodu tih razvoja, s obzirom na njihov potencijal da zaobiđu ljudsku prosudbu i etičke implikacije toga.
Izazovi i kontroverze AI-pokretanog autonomnog oružja
AI-pokretano autonomno oružje postavlja niz složenih pitanja i izazova koji su izazvali kontroverze u raznim sektorima, uključujući vojni, politički, etički i pravni sektor. Evo nekih ključnih izazova i kontroverzi:
Odgovornost: Jedno od primarnih pitanja s autonomnim sustavima oružja je tko će biti odgovoran u slučaju nenamjerne štete ili pogrešne smrti. Bez jasnih smjernica, dodjeljivanje odgovornosti za djela poduzeta od strane AI može biti izazovno.
Etički razmatranja: Upotreba AI u ratovanju postavlja etička pitanja o devalvaciji ljudskog života. Stroj ne može i neće vrednovati ljudski život, postavljajući pitanja o tome da njihovo korištenje u ratovanju može rezultirati većom sklonosti sudjelovanju u sukobima i većim gubicima života.
Erozija političkog odlučivanja: Tradicionalno, odluka o vođenju rata je politička odluka, donesena od strane izabranih predstavnika ili vođa. S AI-pokretanim sustavima koji bi mogli reagirati na prijetnje u milisekundama, postoji strah da bi politički proces mogao biti zaobiđen i ratovi bi mogli započeti bez odgovarajućeg demokratskog procesa.
Vojna eskalacija: Razmještanje autonomnog oružja moglo bi dovesti do utrke u naoružanju, jer nacije nastoje ne zaostati za sposobnostima drugih. To bi moglo dovesti do povećanja vojnih tenzija i globalne nestabilnosti.
Rizik od kvara: Sustavi koji rade na AI su osjetljivi na tehničke probleme i kvarove. U slučaju softverske pogreške ili hakiranja, autonomno oružje bi se moglo upustiti u nepoželjna ili nepredvidiva ponašanja koja bi mogla eskalirati u sukob.
Prednosti i nedostaci
Prednosti:
– Povećana učinkovitost i brzina u reagiranju na prijetnje
– Smanjen rizik za ljudske vojnike u borbenim situacijama
– Precizno ciljanje koje može smanjiti kolateralnu štetu u određenim kontekstima
– Djelovanje u okruženjima koja su preopasna za ljude
Nedostaci:
– Mogućnost gubitka odgovornosti i smanjenog ljudskog nadzora
– Etička pitanja u vezi vrijednosti ljudskog života i donošenja odluka o uporabi smrtonosne sile
– Mogućnost kvarova ili kompromitiranja od strane protivnika
– Rizik eskalacije i proliferacije vojnih sukoba (flash ratovi)
– Dilema u programiranju AI kako bi se uskladila s međunarodnim humanitarnim pravom
Ključna pitanja:
1. Tko je odgovoran za djela poduzeta od strane autonomnog oružnog sustava?
2. Kako se AI-pokretano ratovanje može uskladiti s međunarodnim humanitarnim pravom?
3. Koje mehanizme se mogu uspostaviti kako bi se osiguralo adekvatno ljudsko nadgledanje nad autonomnim oružjem?
4. Kako međunarodna zajednica može spriječiti proliferaciju i eskalaciju AI-pokretanog autonomnog oružja?
Dok se rasprava o AI-pokretanom autonomnom oružju nastavlja, Ujedinjeni narodi su platforma gdje se ovi izazovi raspravljaju, pokušavajući pronaći globalni konsenzus o regulaciji i kontroli takvog oružja.
Sveukupno, iako postoje potencijalne prednosti u razmještanju AI u vojne operacije, nedostaci i rizici ističu potrebu za pažljivim razmatranjem i regulacijom na međunarodnoj razini. Mogućnost “flash ratova” služi kao mračno upozorenje o potencijalnim posljedicama trčanja u primjenu AI u ratovanju bez potrebnih kontrola i ravnoteže.