Artificiell intelligens (AI) har blivit allt vanligare inom det amerikanska rättsväsendet, med dess inflytande som ofta passerar obemärkt förbi. Polisen och åklagarna förlitar sig på AI-verktyg för att underlätta kriminalundersökningar, men dessa verktyg är insvepta i hemlighetsmakeri, vilket lämnar tilltalade utan möjlighet att utmana deras användning eller förstå deras påverkan på deras fall.
Rebecca Wexler, professor i juridik vid University of California, Berkeley, lyfter fram bristen på öppenhet när det gäller AI-användningen inom rättsväsendet. Åklagare är inte skyldiga att informera domare eller försvarare om användningen av AI, vilket skapar en betydande informationsklyfta.
AI- och maskininlärningsverktyg används för olika ändamål inom brottsbekämpning, inklusive identifiering av ansikten, vapen och registreringsskyltar, förbättring av DNA-analys samt förutsägelse av brott. Dock förhindrar affärshemlighetslagar offentlig granskning av dessa verktyg, vilket resulterar i en ”black box”-effekt. Det finns inga tydliga riktlinjer om hur AI ska användas och när dess användning måste avslöjas.
En av de stora bekymren är partiskheten som finns i AI-verktyg, särskilt inom ansiktsigenkänningstekniken. Dessa verktyg har visat sig felidentifiera personer med annan hudfärg eftersom de främst tränats på vita ansikten. Detta väcker betydande frågor om rättvisa och noggrannhet inom rättsväsendet.
För att ta itu med dessa problem har Rep. Mark Takano (D-Calif.) föreslagit lagstiftning som syftar till testning och transparens inom brottsbevissäkring. Lagstiftningen syftar till att tackla problemet med svarta lådeteorier som marknadsförs utan ansvar.
Bristen på transparens inom AI-teknologierna väcker frågor om hur tilltalade kan förespråka sina rättigheter i en rättvis rättegång. När vittnen och bevis skyddas som affärshemligheter står de grundläggande principerna om rättvisa på spel.
Artificiell intelligens syftar till att utveckla maskiner som kan lära sig av erfarenhet och härma mänsklig intelligens vid förutsägelser.
Transparens säkerställer att tilltalade har möjlighet att utmana AI-verktyg som används mot dem och förstå deras inverkan på deras fall. Det möjliggör också ansvar och förhindrar potentiella partiskheter och felaktigheter.
Ansiktsigenkänning AI har uppvisat partiskheter och höga felgrader, särskilt när det gäller bilder på svarta personer. Detta väcker frågor om rättvisa och noggrannhet vid identifiering av individer korrekt.
Rep. Mark Takano har föreslagit lagstiftning som syftar till testning och transparens inom brottsbevisning, vilket tar upp utmaningarna som svarta lådeteorier medför och behovet av ansvar vid användning av AI.
The Hill. (https://thehill.com/)
The source of the article is from the blog yanoticias.es