Nedávne využitie systému umelej inteligencie (UI) izraelskou armádou na generovanie zoznamov cieľov pre potenciálne nálety v Gaze upriamilo pozornosť na dôsledky vojenskej UI. Podľa správy zverejnenej neziskovým médiom +972 Magazine bol systém známy ako Lavender použitý spolu s ďalšími UI systémami na zacielenie a zavraždenie podozrivých militantov, čo viedlo k významným občianskym obetiam.
Zatiaľ čo izraelské obranné sily popierajú mnohé nároky v správe, tvrdiac, že Lavender nie je UI systém, ale databáza na krížové overovanie zdrojov inteligencie, iné zdroje potvrdzujú použitie UI v izraelských vojenských operáciách. V roku 2021 Jerusalem Post informoval, že Izrael využil systémy strojového učenia na identifikáciu cieľov počas konfliktu s Hamasom. Okrem toho sa v predchádzajúcej správe +972 spomína na UI systém s názvom Habsora, ktorý automaticky identifikuje potenciálne budovy a zariadenia militantov určené na bombardovanie.
Potenciál UI vo vojenskom prostredí nie je obmedzený len na Izrael. Krajiny ako Spojené štáty a Čína investujú do UI systémov na vojenské účely. Obhajcovia tvrdia, že UI môže viesť k rýchlejšiemu rozhodovaniu, väčšej presnosti a zníženiu obetí. Avšak existujú obavy o nedostatok ľudskej kontroly a potenciálne chyby pri cieľoch vygenerovaných UI.
Nedávna správa +972 tvrdí, že Lavender automatizuje proces identifikácie cieľov, ale môže mať menej prísne kritéria a nižšie štandardy dôkazov, čo vedie k chybám v približne 10% prípadov. Správa tiež naznačuje, že sa ciele bombardujú vo svojich domovoch ako prvá voľba, čo má za následok občianske obete.
Etické a právne obavy týkajúce sa vojenskej UI boli do veľkej miery prehliadané. V súčasnosti neexistujú všeobecne akceptované alebo právne záväzné pravidlá riadiace jej použitie. Avšak boli podniknuté určité kroky na adresovanie týchto obáv. Organizácia Spojených národov diskutuje o využívaní „smrteľných autonómnych zbraní“ už viac ako desať rokov a Valná hromada OSN nedávno hlasovala v prospech návrhu uznesenia, že algoritmy by nemali byť plne kontrolované pri rozhodnutiach o zabití. Spojené štáty tiež vydali vyhlásenie o zodpovednom vojenskom využívaní UI a autonómie, ktoré získalo podporu mnohých krajín.
Napriek týmto snahám medzinárodné predpisy o použití vojenskej UI zápasia držať krok s rýchlym pokrokom technológie. Keďže armády po celom svete prijímajú UI systémy pre vojenské účely, nežiaduce dôsledky a možné humanitárne škody sa stávajú zrejmejšími.
Sľub presného boja umožneného UI ešte úplne nesplnil svoj účel. Správy o využití UI systémov v Gaze ukazujú obmedzenia a nežiaduce dôsledky spoliehania sa výhradne na algoritmy pri rozhodovaní o zameraní. Je nevyhnutné riešiť etické a morálne dilemy spojené s vojenskou UI, aby sa zabezpečilo, že ľudský dohľad a medzinárodné predpisy sú stanovené tak, aby sa zabránilo zneužitiu tejto mocnej technológie.
Časté otázky
1. Čo je Lavender?
Lavender je systém umelej inteligencie (UI) používaný izraelskou armádou na generovanie zoznamov cieľov pre potenciálne nálety v Gaze.
2. Je použitie UI vo vojenskom prostredí obmedzené iba na Izrael?
Nie, aj ďalšie krajiny ako Spojené štáty a Čína investujú do UI systémov na vojenské účely.
3. Čo sú obavy týkajúce sa vojenskej UI?
Existujú obavy o nedostatok ľudskej kontroly, možné chyby pri cieľoch vygenerovaných UI a etické a morálne dôsledky používania UI systémov vo vojne.
4. Existujú medzinárodné predpisy riadiace používanie vojenskej UI?
Momentálne neexistujú žiadne jasné, všeobecne akceptované alebo právne záväzné pravidlá pre vojenskú UI. Úsilie sa vynakladá na adresovanie týchto obáv zo strany OSN a niektorých krajín.
5. Aké sú nežiaduce dôsledky spoliehania sa výhradne na UI pri rozhodnutiach o zameraní?
Správy naznačujú, že použitie UI systémov pri rozhodnutiach o zameraní môže viesť k chybám, menej prísnym kritériám a nižším štandardom dôkazov, čo vedie k občianskym obetiam a humanitárnym škodám.
Využitie UI vo vojenských operáciách nie je obmedzené len na Izrael. Krajiny ako Spojené štáty a Čína investujú do UI systémov na vojenské účely. Tieto UI systémy majú prinášať výhody ako rýchlejšie rozhodovanie, väčšiu presnosť a zníženie obetí. Avšak existujú obavy o nedostatok ľudskej kontroly a potenciálne chyby pri cieľoch vygenerovaných UI.
Podľa správy +972 Magazine systém používaný izraelskou armádou, nazvaný Lavender, automatizuje proces identifikácie cieľov, ale môže mať menej prísne kritériá a nižšie štandardy dôkazov, čo vedie k chybám v približne 10% prípadov. Správa naznačuje, že sa ciele bombardujú vo svojich domovoch ako prvá voľba, čo má za následok občianske obete. Tento fakt zdôrazňuje etické a morálne dôsledky používania UI systémov vo vojne.
Momentálne neexistujú všeobecne akceptované alebo právne záväzné pravidlá riadiace používanie vojenskej UI. Avšak sa vyvíjajú snahy na riešenie týchto obáv. Organizácia Spojených národov diskutuje o využívaní „smrteľných autonómnych zbraní“ už viac ako desať rokov a Valná hromada OSN nedávno hlasovala v prospech návrhu uznesenia, že algoritmy by nemali byť plne kontrolované pri rozhodnutiach o zabití. Spojené štáty tiež vydali vyhlásenie o zodpovednom vojenskom využívaní UI a autonómie, ktoré získalo podporu mnohých krajín.
Napriek týmto snahám medzinárodné predpisy riadiace používanie vojenskej UI nedokážu držať krok s rýchlym pokrokom technológie. Keďže sa armády po celom svete uchylujú k používaniu UI systémov vo vojne, nežiaduce dôsledky a možné humanitárne škody sa stávajú zrejmejšími. Správy o používaní UI systémov v Gaze ukazujú obmedzenia a nežiaduce dôsledky spoliehania sa výlučne na algoritmy pri rozhodovaní o zameraní.
Je nevyhnutné riešiť etické a morálne dilemy spojené s vojenskou UI. Musí sa zabezpečiť, že ľudský dohľad a medzinárodné predpisy sú stanovené tak, aby sa zamedzilo zneužívaniu tejto mocnej technológie a zabezpečilo, že sa používa spôsobom, ktorý dodržiava ľudské práva a minimalizuje obete medzi civilistami.
The source of the article is from the blog dk1250.com