Användningen av artificiell intelligens (AI) inom militären är en växande trend, och Israels armés användning av Lavender-systemet för att generera bombmål i Gaza är ett tydligt exempel på detta. Men den nivå av autonomi som Lavender-systemet ges reser etiska frågor och farhågor om potentiella fel.
Lavender-systemet har en felmarginal på ungefär 10%. Det innebär att det finns en risk att det kan markera individer som potentiella mål som har liten eller ingen koppling till militanta grupper. Under de inledande stadierna av konflikten i Gaza förlitade sig armén kraftigt på Lavender och identifierade tusentals palestinier som potentiella militanter att rikta in sig mot.
En av de mest oroande aspekterna är att armén gav officerare ett brett godkännande att anta Lavenders dödslistor utan att noggrant undersöka maskinens val eller granska den underrättelser som de baserades på. I vissa fall spenderade personal så lite som 20 sekunder på att godkänna en bombning och fungerade som en ren ”gummistämpel” för maskinens beslut.
Bristen på granskning och förtroendet för ett AI-program med kända fel reser etiska frågor. Oskyldiga liv kan vara i fara på grund av potentiella felaktigheter och lösa målkopplingar. Även om det kan finnas en önskan att effektivisera riktningprocessen och ta bort mänsklig partiskhet måste konsekvenserna av ett sådant förtroende för AI-system noggrant övervägas.
Användningen av AI inom militären är inte unik för den israeliska armén. Många länder utforskar potentialen med AI inom krigsföring, från autonoma drönare till prediktiv analys. Men att hitta rätt balans mellan effektivitet och etik förblir en utmaning.
Överlag medför användningen av AI inom militären betydande konsekvenser. Förtroendet för AI-system som Lavender för att generera bombmål förstärker behovet av noggrann granskning, ansvarsskyldighet och beaktande av potentiella konsekvenser. Med framsteg inom AI-teknologi kommer dessa etiska frågor endast att bli mer komplexa och viktiga att hantera.
För mer information om användningen av AI inom militära sammanhang kan du besöka Försvarsdepartementets webbplats eller utforska resurser som tillhandahålls av organisationer som specialiserar sig på försvar och teknik, som Brookings Institution eller RAND Corporation. Dessa källor ger värdefulla insikter i branschen, marknadsprognoser och relaterade frågor som rör AI inom militären.
[Källa: +972 Magazine]
### FAQs
**Vad är Lavender?**
Lavender är ett artificiellt intelligensprogram som används av Israels armé för att markera misstänkta operatörer inom Hamas och den palestinska Islamska Jihaden (PIJ) som potentiella bombmål.
**Vilken är felmarginalen för Lavender-systemet?**
Lavender-systemet har en felmarginal på ungefär 10%, vilket innebär att det ibland markerar individer med lösa eller ingen koppling till militanta grupper.
**Hur omfattande förlitade sig Israels armé på Lavender under konflikten i Gaza?**
Enligt undersökningen förlitade sig armén kraftigt på Lavender under de första veckorna av konflikten och identifierade så många som 37 000 palestinier som misstänkta militanter för möjliga flygräder.
**Vilken nivå av granskning gav armén Lavenders dödslistor?**
Armén gav officerare ett brett godkännande att anta Lavenders dödslistor utan att noggrant kontrollera maskinens val eller undersöka de råa underrättelser som de baserades på.
**Vilka farhågor väcks av användningen av Lavender?**
Bristen på granskning och förtroendet för ett AI-program med känd felmarginal reser etiska farhågor, då oskyldiga liv kan vara i fara på grund av potentiella felaktigheter och lösa målkopplingar.
The source of the article is from the blog elblog.pl