Uporaba umetne inteligence (UI) v vojaških operacijah je vse bolj pogosta, saj različne države vključujejo orodja UI v svoje vojaške strategije. En primer tega je sistem Lavender, ki ga uporablja izraelska vojska za pomoč pri identifikaciji in ciljanju domnevnih Hamasovcev v Gazi. Kljub temu pa so se pojavili pomisleki o vplivu sistema na civiliste.
Sistem Lavender je bil razvit kot odziv na napade Hamasa in je bil zasnovan za identifikacijo in odobritev likvidacij domnevnih militantov. Uporabil je podatke o znanih operativcih Hamasa in Islamskega džihada Palestina, pa tudi o posameznikih, ki so bili ohlapno povezani s Hamasom. Sistem je bil usposobljen za prepoznavanje značilnosti povezanih z operativci Hamasa, kot so njihova pripadnost določenim skupinam WhatsApp ali vzorci spreminjanja mobilnih telefonov in naslovov. Palestince v Gazi so razvrstili na lestvici od 1 do 100 na podlagi teh značilnosti, pri čemer so tisti, ki so dosegli določen prag, označeni kot cilji za napade.
Čeprav je sistem Lavender trdil, da dosega stopnjo natančnosti okoli 90 odstotkov, je vseeno prišlo do napačne identifikacije posameznikov, ki niso bili člani vojaškega krila Hamasa. To postavlja vprašanja o potencialu, da so nedolžni civilisti tarča in ogroženi zaradi napak pri identifikacijskih postopkih.
Eden najbolj zaskrbljujočih vidikov sistema Lavender je njegovo vedenje do civilnih žrtev. Obveščevalnim uslužbencem je bilo dano veliko manevrskega prostora, ko je šlo za kolateralno škodo, s pooblastilom za ubijanje določenega števila civilistov za vsakega nižje rangiranega Hamasovca. Pri višjih Hamasovih uradnikih naj bi bilo poročno število kolateralnih civilnih žrtev še višje. To nepošteno ravnanje do civilistov poudarja etične pomisleke v zvezi z uporabo UI v vojni.
Dodatno poročila navajajo, da izraelska obrambna start-up podjetja iščejo priložnosti za izvoz svojih tehnologij UI v tujino. To vzbuja skrbi o vplivu na civilne populacije izven območij konfliktov, pa tudi o potencialu za zlorabo teh orodij z umetno inteligenco. Etične posledice, ki izhajajo iz prepustitve odločitev o življenju in smrti strojem v vojni, so resne in jih je treba skrbno preučiti.
V zaključku uporaba UI v vojaških operacijah, kot jo ponazarja sistem Lavender, postavlja resna vprašanja o njenem vplivu na civiliste ter o etičnih posledicah uporabe tehnologij, ki jih poganja umetna inteligentnost. Pomembno je, da vlade in vojaške organizacije skrbno preučijo možne tveganja in zagotovijo, da se te tehnologije uporabljajo na odgovoren in etičen način.
—
Pogosta vprašanja (FAQ):
- Kaj je sistem Lavender?
- Kako je bil sistem Lavender usposobljen?
- Kakšna je stopnja natančnosti sistema Lavender?
- Kakšne so bile posledice uporabe sistema Lavender?
- Kakšne so skrbi v zvezi z uporabo UI v vojni?
Sistem Lavender je orodje umetne inteligence, ki ga izraelska vojska uporablja za pomoč pri identifikaciji in ciljanju domnevnih Hamasovcev v Gazi.
Sistem Lavender je bil usposobljen s pomočjo podatkov o znanih operativcih Hamasa in Islamskega džihada Palestine, kot tudi podatkov o posameznikih, ki so bili ohlapno povezani s Hamasom. Bil je usposobljen za prepoznavanje značilnosti povezanih z operativci Hamasa, kot so pripadnost določenim skupinam WhatsApp ali vzorci spreminjanja mobilnih telefonov in naslovov.
Sistem Lavender se je ponašal s stopnjo natančnosti okoli 90 odstotkov, kar pomeni, da je približno 10 odstotkov tistih, ki so bili označeni kot pripadniki vojaškega krila Hamasa, v resnici niso bili člani tega krila.
Uporaba sistema Lavender je privedla do smrti tisočev civilistov v Gazi, saj je bila kolateralna škoda pogosto prezrta v korist usmerjanja proti domnevnim Hamasovcem.
Skrbi v zvezi z uporabo UI v vojni vključujejo potencialno napačno identifikacijo ciljev, preziranje civilnih žrtev in etične posledice zanašanja na stroje za sprejemanje življenjsko pomembnih odločitev.
The source of the article is from the blog yanoticias.es