Brugen af kunstig intelligens (AI) i militæret vinder frem, og Israelske hærs anvendelse af Lavender-systemet til generering af bombemål i Gaza er et klart eksempel på dette. Dog rejser den selvstændighed, som Lavender-systemet er blevet givet, etiske spørgsmål og bekymringer om potentielle fejl.
Lavender-systemet har en fejlprocent på cirka 10%. Dette betyder, at der er en chance for, at det kan markere enkeltpersoner som potentielle mål, der har lidt eller ingen forbindelse til militante grupper. Under de tidlige stadier af konflikten i Gaza, støttede hæren sig tungt til Lavender og identificerede tusindvis af palæstinensere som potentielle militante, der skulle målrettes.
En af de mest bekymrende aspekter er, at hæren gav officerer frihed til at adoptere Lavenders dræbslister uden at foretage en grundig undersøgelse af maskinens valg eller undersøge efterretningerne, som de var baseret på. I nogle tilfælde brugte personalet så lidt som 20 sekunder på at godkende et bombeangreb og fungerede som en ren “gummistempler” for maskinens beslutninger.
Manglen på kontroller og afhængigheden af et AI-program med en kendt fejlprocent rejser etiske bekymringer. Uskyldige liv kan være i fare på grund af potentielle unøjagtigheder og løse målforbindelser. Mens der måske er en vilje til at effektivisere målretningen og fjerne menneskelig bias, skal konsekvenserne af en sådan afhængighed af AI-systemer nøje overvejes.
Brugen af AI i militæret har store implikationer. Afhængigheden af AI-systemer som Lavender til generering af bombemål forstærker behovet for grundig kontrol, ansvarlighed og overvejelse af de potentielle konsekvenser. Med fremskridt inden for AI-teknologi vil disse etiske spørgsmål kun blive mere komplekse og vigtige at tackle.
FAQs
Hvad er Lavender?
Lavender er et kunstigt intelligensprogram, der bruges af den israelske hær til at markere mistænkte operatører i Hamas og Palestinian Islamic Jihads (PIJ) militære fløje som potentielle bombemål.
Hvad er fejlprocentdelen for Lavender-systemet?
Lavender-systemet har en fejlprocent på cirka 10%, hvilket betyder, at det lejlighedsvis markerer enkeltpersoner med løse eller ingen forbindelser til militante grupper.
Hvor omfattende støttede den israelske hær sig til Lavender under konflikten i Gaza?
Ifølge undersøgelsen støttede hæren sig tungt til Lavender i de første uger af konflikten og identificerede så mange som 37.000 palæstinensere som mistænkte militante til mulige luftangreb.
Hvilket kontrolniveau gav hæren til Lavenders dræbslister?
Hæren gav officerer brede beføjelser til at adoptere Lavenders dræbslister uden grundigt at undersøge maskinens valg eller undersøge de rå efterretninger, som de var baseret på.
Hvilke bekymringer opstår ved brugen af Lavender?
Manglen på kontrol og afhængigheden af et AI-program med en kendt fejlrate rejser etiske bekymringer, da uskyldige liv kan være i fare på grund af potentielle unøjagtigheder og løse målforbindelser.
(Kilde: +972 Magazine)
The source of the article is from the blog j6simracing.com.br