Kunstig intelligens (AI) har fået betydelig indflydelse på det amerikanske retsvæsen, hvilket har transformeret måden, hvorpå politi og anklagere gennemfører kriminelle undersøgelser. Imidlertid sker brugen af AI i retssystemet ofte uden viden eller gennemsigtighed fra de anklagede, hvilket skaber et betydeligt informationshul. Denne mangel på gennemsigtighed hæmmer de anklagedes evne til at udfordre AI-værktøjer, der bruges imod dem og forstå konsekvenserne af deres brug.
Rebecka Wexler, en professor i jura ved University of California, Berkeley, har rejst bekymringer om den uigennemsigtige karakter af AI i retssystemet. Dommere og forsvarsadvokater informeres ikke konsekvent om brugen af AI-værktøjer, hvilket fører til en asymmetri af information, der sætter de anklagede i en ugunstig situation.
AI og maskinlæringsværktøjer spiller en afgørende rolle på forskellige områder af kriminalretfærdighed, herunder ansigtsgenkendelse, DNA-analyse og kriminalitetsoptegnelser. Dog beskyttes disse værktøjer ofte som forretningshemmeligheder, hvilket forhindrer offentlig gennemsigtighed og skaber det, der almindeligvis betegnes som “black box”-effekten. Manglen på klare retningslinjer vedrørende brugen og offentliggørelsen af AI-værktøjer forværrer yderligere disse udfordringer.
En af hovedbekymringerne omkring AI-værktøjer er den bias, de udviser, især inden for ansigtsgenkendelsesteknologi. Studier har vist, at disse værktøjer har en tendens til at fejlagtigt identificere personer af farve på grund af deres træning på overvejende hvide ansigter. Dette rejser alvorlige problemer omkring retfærdighed og nøjagtighed i det kriminelle retssystem.
I erkendelse af disse udfordringer har Rep. Mark Takano (D-Calif.) introduceret lovgivning, der sigter mod at øge test og gennemsigtighed i kriminalretfærdighed. Dette lovforslag sigter på at adressere problemet med at bruge black box-teknologier, der mangler ansvarlighed og fremme større bevidsthed og tilsyn.
Manglen på gennemsigtighed i AI-teknologierne rejser grundlæggende spørgsmål om de anklagedes evne til at kæmpe for deres rettigheder og sikre en retfærdig retssag. Når væsentlige vidner og beviser skjules som forretningshemmeligheder, undermineres retfærdighedens principper.
###Ofte stillede spørgsmål
Hvad er kunstig intelligens (AI)?
Kunstig intelligens henviser til udviklingen af maskiner, der er i stand til at lære af erfaring og efterligne menneskelig intelligens i forudsigelse af resultater.
Hvorfor er gennemsigtighed vigtig i brugen af AI i retssystemet?
Gennemsigtighed sikrer, at de anklagede har mulighed for at udfordre AI-værktøjer, der bruges imod dem, og forstå deres indvirkning på deres sag. Det tillader også ansvarlighed og forhindrer potentielle bias og fejl.
Hvad er bekymringen med ansigtsgenkendelses-AI?
Ansigtsgenkendelses-AI har udvist bias og høje fejlrater, især når det handler om billeder af sorte individer. Dette rejser bekymringer om retfærdighed og nøjagtighed i at identificere individer korrekt.
Hvilken lovgivning er blevet foreslået for at adressere disse problemer?
Rep. Mark Takano har introduceret lovgivning, der sigter mod test og gennemsigtighed i kriminalretfærdighed, og dermed bekæmper udfordringerne skabt af black box-teknologier og behovet for ansvar i brugen af AI.
###Kilder:
– The Hill. (URL: https://thehill.com/policy/technology/545712-how-ai-risks-creating-a-black-box-at-the-heart-of-us-legal-system)
The source of the article is from the blog motopaddock.nl