Pēdējā izpēte ir atklājusi izsmalcinātu informāciju par mākslīgā intelekta balstītas programmas “Lavender” izmantošanu Izraēlas armijā. Šī programma, kas tika publiski atklāta pirmo reizi, spēlēja galveno lomu plašos palestīniešu bombardēšanas operācijos Gazas joslas kara agrīnajā posmā.
“Lavender” sistēma, ko izmanto Izraēlas militārās, ir izstrādāta, lai identificētu potenciālos militāros uzbrukumu mērķus. Tā visus aizdomīgos Hamas un Palestīniešu Islāma džihāda (PID) darbiniekus iezīmē kā potenciālus bombardēšanas mērķus, ieskaitot pat zemu ierēdņus. Sistēmā ir iespēja ātri apstrādāt masīvus datu apjomus un ģenerēt tūkstošiem potenciālo mērķu.
Laikā, kad valsts atradās kara sākuma nedēļās, Izraēlas armija smagi atkarījās no “Lavender”, gandrīz pilnībā balstoties savā lēmumu pieņemšanas procesā uz mašīnas izdrukušiem. Apbrīnojami, cilvēka izdarītie militārie virsnieki bieži kalpoja tikai kā “gumijas plēksnes” mašīnas lēmumiem, koncentrējot minimālu laiku uz katru mērķi pirms bombardēšanas autorizēšanas. Lai gan Lavender sistēmai ir zināma kļūdu mērķis, tā norādīja cilvēkus ar vājas saistības vai vispār nekādu saistību ar militantiem grupām.
Vēl traģiskāks ir armijas apzināta fokusēšanās uz indivīdu mājās, bieži naktī, kad viņu ģimenes bija klātesošas. Šī stratēģiskā pieeja balstījās uz pārliecību, ka ir vieglāk atrast indivīdus viņu privātajos mājokļos. Citas automatizētas sistēmas, piemēram, “Kur ir tētis?”, tika izmantotas, lai pāradresētu mērķētos indivīdus un veiktu bombardēšanu, kad tie atradās ģimenu mājokļos.
Šo neizvēlēto bombardējumu rezultāti ir izpostojoši. Tūkstošiem palestīniešu, ieskaitot sievietes, bērnus un neiesaistītos cīņā, ir zaudējuši dzīvību šo AI programmas lēmumu dēļ. Ir skaidrs, ka armija prioritizēja pretējo apgalvojumu uzbrukšanu, pat ja tie bija ne militārās ēkas vai darbības, nevis koncentrējoties tikai uz militārajām ēkām vai aktivitātēm.
Lavender mašīna darbojas atšķirīgi no citas AI sistēmas, ko sauc par “The Gospel.” Kamēr “The Gospel” iezīmē ēkas un struktūras, no kurām armija apgalvo, ka militanti darbojas, Lavender specifiski iezīmē indivīdus, ievietojot tos uz nokaušanas sarakstiem. Šī atšķirība ir būtiska, lai saprastu, kā sistēma darbojas un kādus mērķus tā identificē.
Turklāt, mērķējot pretējo apgalvojumu divvirzienā swoole gadsimts ar Lavender, armija dod priekšroku izmantot nevadītas raķetes, ko parasti sauc par “dumjām” bumbām. Šīm bumbām ir spēja iznīcināt veselas ēkas kopā ar to iemītniekiem, kas noved pie būtiskiem upuriem. Šīs izvēles iemesls bija saglabāt dārgas “gudrās” precizitātes bumbas svarīgākiem mērķiem, stratēģijai, kas balstīta uz efektivitātes izmaksām un šo konkrēto ieroču retums.
Šokējošā atklāšana, kara agrīnās nedēļās, armija autorizēja nogalināt līdz pat 15 vai 20 civiliedzīvotājus par katriem vienam “Lavender” identificētam juniora Hamas aģentam. Tas bija atkāpšanās no militārās iepriekšējā stāvokļa minimizeēt kolas bojāeju operāciju laikā ar zemu rangu militantiem. Turklāt gadījumā ar augstākajiem Hamas oficiāliem, tika autorizēts nogalināt vairāk nekā 100 civiliedzīvotājus par vienas augstā ranga komandiera nokaušanu.
Mākslīgā intelekta ietekme uz militārajiem uzbrukumiem rada etiskas bažas un uzsver nepieciešamību rūpīgi pārdomāt šādu sistēmu pieņemtos lēmumus. Lai gan AI tehnoloģija piedāvā vērtīgas spējas datu apstrādē un analīzē, to ir jālieto atbildīgi un ar skaidru saprašanu par tās ierobežojumiem.
Bieži uzdotie jautājumi
Kas ir Lavender?
Lavender ir mākslīgā intelekta programmatūra, ko Izraēlas armija izmanto, lai identificētu potenciālos militāros uzbrukuma mērķus. Tā iezīmē indivīdus, par kuriem tiek uzskatīts, ka viņi ir Hamas un Palestīniešu Islāma džihāda (PID) darbinieki, ieskaitot tos, kuri ieņem zemas amata pozīcijas.
Kā darbojas Lavender?
Lavender ātri apstrādā masīvus datu apjomus, lai ģenerētu potenciālus mērķus. Tas piešķir indivīdus kā potenciālus bombardēšanas mērķus, balstoties uz to aizdomām par viņu piederību militantiem grupām.
Kāda ir Lavender ietekme uz militārajiem uzbrukumiem?
Lavender ir spēlējusi centrālu lomu palestīniešu bombardēšanā, īpaši kara sākuma posmos. Programmas ietekme uz militārās leģionu pieņemšanas procesu bija tik būtiska, ka AI mašīnas izvades tika traktētas kā cilvēku lēmumi.
Kādas ir etiskas bažas, kas saistītas ar Lavender izmantošanu?
Lavender izmantošana rada etiskas bažas, jo tā ir novedusi pie indivīdu neizvēlētās mērķēšanas, kas ir izraisījušas tūkstošiem palestīniešu dzīvību zaudēšanu, tajā skaitā sievietes, bērnus un tiem, kas nav iesaistīti cīņā. Ir bažas par programmas kļūdām un tās ietekmi uz civiliem.
Kā tiek izmantotas nevadītas raķetes saistībā ar Lavender?
Lavender identificē aizdomās turētos junējaus agentus, un armija dod priekšroku izmantot nevadītas raķetes, ko arī sauc par “dumb bumbas”. Šīs bumbas var iznīcināt veselas ēkas un izraisīt būtiskus upurus. Tas ir ekonomisks pieņēmums, saglabājot dārgas “gudrās” precizitātes bumbas svarīgākiem mērķiem.
Informācijas avoti:
1. +972 Magazine
2. Local Call