Odkar je IDF začel uporabljati umetno inteligenco (UI) v vojnah, je privabil značilno pozornost. V tekočem konfliktu v Gazi Izraelske obrambne sile (IDF) uporabljajo sisteme, ki jih poganja UI, za natančno usmerjanje groženj v goste naseljene regije. Stroj, ki ga napaja obsežno zbiranje podatkov, igra ključno vlogo v tem procesu, saj zbira informacije, kot so naslovi bivališč, vzorci gibanja, dejavnosti na družbenih medijih in celo interpersonalne povezave, da bi vzpostavil sezname potencialnih groženj.
Razkritje, ki so ga izvedli izraelski novinarji in ki ga je poganjalo šest članov elitne kibernetsko-obveščevalne enote IDF, je osvetlilo kontroverzno operacijo poimenovano ‘Sivka’. Ta operacija vključuje ustvarjanje seznamov, ki učinkovito delujejo kot predhodne določitve za ciljane umore. Glavni urednik Meron Rapoport predlaga temen izid za tiste, ki jih je UI uvrstil na te sezname, enači njihovo vključitev z označevanjem za smrt.
UI ne sprejema avtonomnih odločitev o odstranjevanju ciljev; vendar so pripadniki IDF navodila, da ukrepajo hitro, ko jih sistem identificira kot cilje. Merilo za sprejemljivo stransko škodo je izrazito; za običajne cilje je to 15-20 posameznikov, vendar se ta številka lahko dvigne na med 200 in 300 za visoko vredne cilje. Organizacije za človekove pravice in Združeni narodi so izrazili skrb zaradi tega pristopa, zlasti ob uporabi UI za bojne odločitve prvič s strani vojske.
Ključna vprašanja:
1. Kakšne etične posledice nastanejo iz uporabe UI za pridobivanje ciljev v območjih konfliktov?
Uporaba UI v vojaških aplikacijah, zlasti za pridobivanje ciljev, postavlja pomembna etična vprašanja. Odločitve, ki lahko privedejo do izgube življenj, so izjemno občutljive, in delegiranje teh odločitev UI sistemom lahko ustvari moralno distanco med uporabniki in smrtnimi posledicami. Tveganje napak in potencial za znižanje praga za vključitev v boj zaradi zaznane natančnosti in učinkovitosti UI sistemov sta tudi pereča etična vprašanja.
2. Kako natančen je UI pri identifikaciji veljavnih vojaških ciljev in kakšni varovalni ukrepi so v veljavi za preprečevanje civilnih žrtev?
Noben UI sistem ni nezmotljiv. Zato je natančnost ključna pri njegovi uporabi za vojaške namene, še posebej v goste naseljenih območjih, kjer je tveganje za civilne žrtve visoko. Običajni varnostni ukrepi vključujejo stroga pravila sodelovanja in človeški nadzor. Vendar točna narava in učinkovitost teh varnostnih ukrepov v sistemu IDF niso podrobno razkriti v javni sferi.
3. Katere so posledice vojn, ki jih poganja UI, za mednarodno pravo in pravila oboroženih spopadov?
Vojskovanje, poganjeno z UI, postavlja izzive mednarodnemu pravu, zlasti načelom razlikovanja, sorazmernosti in nujnosti v pravilih oboroženih spopadov. Ta načela zahtevajo, da se bojevniki razlikujejo med vojaškimi cilji in neborci, zagotovijo, da pričakovana vojaška prednost od napada ne pretehta škode za civiliste, in da uporabijo silo le, če je nujno. Integracija UI postavlja težave pri ohranjanju tega načelja.
Ključni izzivi in kontroverze:
– Odgovornost: S pomembno vlogo UI sistemov pri določanju ciljev je lahko težko vzpostaviti jasno odgovornost, ko pride do civilnih žrtev ali napačnega usmerjanja.
– Etično odločanje: Obsežna uporaba strojnega učenja postavlja vprašanja o tem, kako so etične ugotovitve programirane v UI sisteme, če sploh, in ali lahko ti sistemi razumejo kompleksnosti človeškega življenja in moralno težo odločitev o usmerjanju.
– Zasebnost podatkov: Zbiranje in uporaba osebnih podatkov, kot so dejavnosti na družbenih medijih in interpersonalni odnosi, za usmerjanje s strani UI sistemov, lahko posledično vodi v skrbi glede kršitev zasebnosti.
Prednosti in slabosti:
Prednosti:
– Učinkovitost: UI lahko obdeluje velike količine podatkov veliko hitreje kot ljudje in identificira grožnje hitro in natančno znotraj obsežnih nizov podatkov.
– Natančnost: Pravilno prkalibrirani UI sistemi lahko bolj natančno ciljajo, kar potencialno zmanjšuje pojavnost nediskriminiranih napadov.
Slabosti:
– Tveganje za civiliste: Odvisnost od UI pri usmerjanju v gostem naseljenem območju, kot je Gaza, povečuje tveganje za civilne žrtve, še posebej, če UI napačno klasificira cilje.
– Dehumanizacija: Uporaba UI v vojnah lahko vodi v dehumanizacijo spopada, kjer se odločitve, ki imajo resne moralne in pravne posledice, sprejmejo na podlagi algoritmov namesto človeške presoje.
– Propagacija napak: Če so podatki ali algoritmi v ozadju UI napak, se te napake lahko razširijo na veliko obsežnost, kar potencialno vodi v napačno usmerjanje in izgubo nedolžnih življenj.
Za več branja o temi in zagotavljanje dostopa do zanesljivih in aktualnih informacij obiščite uradno spletno mesto Izraelskih obrambnih sil in Združenih narodov, ki se pogosto ukvarjajo z vprašanji mednarodnih konfliktov in uporabo novih tehnologij v vojni.
[vstavi]https://www.youtube.com/embed/Cq7NHc-8ako[/vstavi]