Jaunievedums mākslīgā intelekta (AI) vadītajā mērķēšanas sistēmā, ko sauc par “Melnajām rokām”, tiek izmantots Izraēlas armijas operācijās Gazas joslā. Lai gan šī AI sistēma nodrošina efektīvu palīdzību bombešanas mērķu izvēlē, tā ir raisījusi bažas, jo tai ir minimāla cilvēku pārbaude. Nesenā pārskata gaisma nometusi gaismu par “Melnās rokas” ieguldījumu, kur militārpersonām bieži bija pašiem dodama ātru apstiprinājumu AI atlasītajiem mērķiem, nekontrolēti tos pārbaudot.
Lai arī studija atklāja 10% kļūdu skaitu “Melnajā rokā” norādēs, mērķējot ne karavīrus, apstiprināšanas process galvenokārt bija saistīts ar mērķa dzimuma apstiprināšanu. Pārsteidzoši, avoti minēja, ka viņi saņēma atļauju automātiski pieņemt “Melnās rokas” nogalināšanas sarakstus tikai divas nedēļas pēc turpinās konflikta. Turklāt armija, šķiet, veica operācijas, kas fokusētas uz konkrētām personām, bieži saskaroties ar viņu mājām, kamēr viņu ģimenes bija klāt. Šo biedējošo taktiku atribuēja citai AI programmai, ko sauc par “Kur ir Tētis?”
Daudzos gadījumos dēļ kavējumiem “Kur ir Tētis?” programmā, nevainīgas ģimenes tika tragiski nogalinātas, pat ja galvenais mērķis nebija klātesošs. Vēl joprojām nav skaidrs, cik daudz šīs programmas joprojām tiek izmantotas; tomēr pārskats uzsvēra to būtisko aktivitāti konflikta sākuma nedēļās. Nenosaukts vecākais virsnieks, apzīmēts ar “B”, izskaidroja, ka gaisa spēki bombardēs visas iezīmētās mājas plkst. 5 no rīta, kas noveda pie tūkstošiem cilvēku nāves.
Kā rezultātā šo programmās tika identificēti desmitiem tūkstošu mērķu, kas rezultēja daudzu palestīniešu civiliedzīvotāju, ieskaitot sievietes, bērnus un nevainīgos, kas nebija iesaistīti cīņā, nāves. Šis pārskats turpināja uzsvērt globālās bažas par lielu civiliedzīvotāju skaitu Gazā. Tūkstošiem palestīniešu ir zaudējuši dzīvības Izraēlas militārās kampaņas laikā, kas tika uzsākta atbilstoši uzbrukumam, ko vadīja Hamas.
Starptautiskā sabiedrība ir izteikusi sašutumu par pēdējiem Izraēlas triecieniem, it sevišķi pēc apzinātā septiņu pārtikas palīdzības brīvprātīgo nogalināšanas ar World Central Kitchen. Turklāt ziņojumi liecina, ka Gazai pašlaik draud neredzēts bada posts, jo ierobežots piekļuve pārtikai un pamata nepieciešamībām, kas daļēji ir saistīts ar Izraēlas kontroli pie robežas pārejām. Reaģējot uz pieaugošu spiedienu, prezidents Džo Bīdens sarunās ar Izraēlas premjerministru Benjamiņu Netanjahu aicināja nekavējoties ieviest pagaidu pamieru.
Izraēlas militārajas izteikumi noliedza apgalvojumu, ka mākslīgā intelekta spēlē būtisku lomu viņu mērķu identifikācijas procesā. Viņi tos norādīja kā analītiķu izmantotu rīku, kuru pakļauj neatkarīgām pārbaudēm, lai nodrošinātu atbilstību starptautiskajai tiesību sistēmai un militārai direktīvai. Armija arī noliedza “nogalināšanas saraksta” esamību vai apzinātu tūkstošiem aizdomīgu Hamas karavīru mērķēšanu.
Neraugoties uz šīm ieteikumus, vairāki nenosauktie avoti apstiprināja “Melnās rokas” programmas radītos plašos blakuspostu rezultātus. Viņi atklāja, ka bieži tika mērķētas privātās mājas, kuras piederēja apgalvotiem jaunajiem militantiem, rezultātā nogalinot visaģu ģimenes. Spiediena no starptautiskās sabiedrības, masveida palestīniešu pārvietošanās un dzīvojamo māju nīcības dēļ Izraēlas armija ir ziņojusi, ka ir apturējusi jauniešu mērķu sarakstu izveidi māju bombardēšanai.
Šādas tehnoloģijas kā “Melnās rokas” un citu AI programmņu izmantošana Izraēlas militārās operācijās ir radījusi strīdus un nosodījumu, jo šo taktiku rezultātā ie guvusi cietušo gūtās būtiskās civiliedzīvotāju zaudējumus. Šādu tehnoloģiju izmantošana bez pilnīgas cilvēku uzraudzības rada etiskas un humanitāras bažas. Starptautiskā sabiedrība turpina aicināt atrisināt ilgstošo konfliktu, uzsverot nepieciešamību prioritizēt civiliedzīvotāju drošību un humanitāro centienu veikšanu Gazas joslā.
Bieži uzdotie jautājumi:
J: Kas ir programa “Melnās rokas”?
A: Programma “Melnās rokas” ir mākslīgā intelekta bāzēta mērķēšanas sistēma, ko izmanto Izraēlas armija Gazas joslā.
J: Kā “Melnās rokas” strādā?
A: “Melnās rokas” identificē potenciālos bombešanas mērķus ar minimālu cilvēku uzraudzību, ļaujot ātri apstiprināt AI atlasītos mērķus.
J: Vai “Melnās rokas” precizitātei ir kādas bažas?
A: Pētījums atklāja 10% kļūdu līmeni “Melnās rokas” norādēs, mērķējot personas, kas nav militanti.
J: Kas ir programma “Kur ir Tētis”?
A: Programma “Kur ir Tētis” ir citu AI sistēma, ko izmanto Izraēlas armija, tā fokusējas uz konkrētām personām, bieži mērķējot viņu mājās.
J: Kā starptautiskā sabiedrība ir reaģējusi uz šo AI programmu izmantošanu?
A: Ir bijis globāls sašutums par civiliedzīvotāju upuriem, kas rezultējušas no Izraēlas militārās izmantošanas AI programmās, ar aicinājumu ieviest pamieru un palielināt humanitāros centienus.
J: Vai Izraēlas armija ir risinājusi šīs bažas?
A: Izraēlas armija ir noraidījusi apgalvojumus par mākslīgā intelekta lomas izmēru viņu darbībās un noliedzusi apzinātu “nogalināšanas sarakstu”, kas vērsts pret tūkstošiem aizdomīgu Hamas militanti.
The source of the article is from the blog lokale-komercyjne.pl