S podporou Spojených štátov má Izraelské obranné sily (IDF) údajne používať umelé inteligénciu s názvom „Lavender“ na vykonávanie operácií na Pásme Gazy, dramaticky rozširujúc oblasť svojich spoľahlivke a cieľových praktík sledovania. Využitím algoritmov strojového učenia Lavender spracováva obrovské množstvo údajov o približne 2,3 milióne obyvateľoch Gazy, priradzuje kadému osobu skóre od 1 do 100, ktoré napokon ovplyvní ich prioritizáciu ako cieľ.
Funkcionalita Lavender je v jadre kontroverznej debaty, pretože jej algoritmus chybne identifikoval tisíce nezaradených civilistov, podľa IDF operativcov. Tieto osoby sú teraz neúmyselne zaradené medzi ozbrojency. Lavender ďalej klasifikuje potenciálne cieľe do dvoch hlavných skupín: „ľudské cieľe“, obvykle osoby s veliteľským postavením, a „šapka“ cieľy, odkazujúce na menej hodnostené vojny. Druhá skupina je často angažována neprímo riadenými strelami schopnými spošobiť podstatné škody na majetku a nevyhnuteľne civilné obete.
Systém pracuje bez prítomnosti dozoru človeka, vedúci k vzoru automatizovaných masových útokov proti Palestínčanom v Gaze. Tento postup vytvára významné etické obavy, pretože určené cieľe sú často napadáné v ich domovoch, počas noci, vedľa ich rodiných príslušníkov. V dôsledku toho sa tento postup môže sústrediť na mnoho nežiaducich smrtí, známa aj ako „kolaterálna škoda“.
Izraelský novinár a mierový aktivista Yuval Abraham uskutočnil dôkladné vyšetrovania Lavender, zdôrazňujúc vážne dúsledky tychto AI-poháňaných strategií. Abraham odhalil, že vysokopostavení úrady často obchádzajú podrobné skúmanie cieľových jedincov, odovzdávajúc navrhy systému a nechávajúc proces verifikácie do rúk algoritmu, ktorý môže podliehat chybovej miere.
Správy napísane Yuvalom Abrahamom sa zasadžujú za vyriešenie akcií uľahčených Lavenderom Medzinárodným súdom spravodlivosti, tvrdiac, že by sa mohol klasifikovať ako potenciálne štátne terorizmus a zločiny voči osobnosti. Vzhľadom na to, že hraničná fornta medzi automatizovanou vojnovou činnosťou a zodpovednou vojenskou akciou sa rozostiera, etika umelej inteligencie v bojových zónech ako je Gaza ďalej podnecuje kritický medzinárodný diskurz.
Dôležité otázky a odpovede:
1. Aké sú implikácie používania umelej inteligencie ako je „Lavender“ v vojenských operáciách?
Používanie umelej inteligencie v vojenských operáciách vytvára významné etické, právne a zodpovednostné otázky. AI systémy ako Lavender môžu spracovať obrovské množstvo údajov na identifikáciu a priorizáciu cieľov, ale môžu rovnož robiť chyby, čo môže viesť k civilným obetiam alebo porušeniam medzinárodného práva.
2. Ako Lavender rozlišuje medzi bojovníkmi a civilistami?
Podľa správ Lavender priradzuje osobám skóre, ktoré môže klasifikovať ako ‚ľudské cieľe‘ alebo ‚smeťové cieľe‘. Avšak táto klasifikácia viedla k chybám, kde civilisti boli údajne identifikovaní ako bojovníci, čo vyvolalo obavy o presnosť a diskrimináciu algoritmu.
3. Aké sú hlavne výzvy alebo kontroverzie spojené s „Lavender“?
Ústredné výzvy zahŕňajú potenciálne nesprávne identifikácie, nedostatok ľudského dozoru, čo vedie k automatizovaným útokom bez dostatočnej verifikácie a moralistické dôsledky delegovánia životnéch a smrtiacich rozhodnutí strojom. Ďalej môže byť použitie takých systémov vnímané ako forma štátneho násilia, ak vysledkom budú civilné obete, spochybňujúc dodržiavanie medzinárodného humanitárneho práva.
Výhody a nevýhody:
Výhody:
– Zvýšená efektivita pri spracovávaní údajov a identifikácii potenciálnych cieľov.
– Schopnosť continue pracovať bez únavy, na rozdiel od ľudských operátorov.
– Možnosť ponúka strategické výhodu rýchlym adaptovaním sa na vývoj situácie na mieste.
Nevýhody:
– Riziko nesprávneho identifikovania civilistov ako bojovníkov, veduúce k nesprávnému zraneniu alebo smrte ke.
– Nedostatok zodpovednosti a transparentnosti v procese rozhodovania.
– Etičke obavy o dehumanizáciu vojenstva a potenciálne porušenia medzinárodného práva.
– Možný erózia ľudského dozoru a morálnej zodpovednosti v vojenských operáciách.
Pre dalšie informácie o etike a predpisoch ku umelej inteligencii v vojenských kontextoch, možete navštíviť nasledujúce oficiálne webové domény:
Spoločenstvo Národov
Medzinárodvý výbor Červeného Kríža
Amnesty International
Ministerstvo obrany Spojených štátov
Treba poznamenať, že tieto odkazy vedu na hlavné domény organizácií, ktoré môžu poskytovať informácie tykajú incid používania AI vo vojenských operáciách, konkrétne informácie o „Lavenderi“ a jeho využití Izraelskými obrannými silami môžu priamo nie sú dostupné na týchto ácaniach.