Kunstig intelligens (KI) har vorte stadig meir utbrend i det amerikanske lovsystemet, med deira påverknad som oftast går ubemerket hen. Politi og påtalemyndigheitane stolar på KI-verktøy for å hjelpe i straffesaker, men desse verktøya er innhylt i hemmeleghet, noko som gjer at tiltalte ikkje kan utfordre deira bruk eller forstå verknaden dei har på saka deira.
Rebecca Wexler, ein professor i jus ved University of California, Berkeley, lyftar fram mangelen på offentleggjering ved bruk av KI i lovsystemet. Påtalemyndigheitane er ikkje forplikta til å informere dommarar eller forsvararar om bruken av KI, noko som skaper ein betydeleg informasjonskløft.
KI- og maskinlæringsverktøy blir brukt til ulike føremål i kriminaljustisen, inkludert å identifisere fjes, våpen og bilskilt, forbetre DNA-analyser, og predikere kriminalitet. Likevel hindrar lovverk om forretningshemmeleghald offentleg gransking av desse verktøya, med ei «svart boks»-effekt som resultat. Det fins ikkje klare retningslinjer for korleis KI bør bli brukt og når bruken deira må bli avslørt.
Ei stor bekymring er fordomane som finst i KI-verktøy, særleg i ansiktsgjenkjenningsteknologi. Desse verktøya har vist seg å feilidentifisere personar med anna etnisitets fordi dei hovudsakleg er trente på kvite fjes. Dette reiser store spørsmål om rettferd og nøyaktigheit i kriminaljustissystemet.
For å takle desse problema har Rep. Mark Takano (D-Calif.) introdusert lovgivning som siktar mot testing og gjennomsiktighet i kriminaljustisen. Lovgivinga søkjer å takle problemet med svart boks-teknologiar som blir marknadsførde utan ansvarsskyldigheit.
Mangelen på gjennomsiktighet i KI-teknologiar reiser spørsmål om korleis tiltalte kan kjempe for rettane sine i ein rettferdig rettssak. Når vitne og bevis blir verna som forretningshemmeleghald, står dei grunnleggjande prinsippa for rettferd på spel.
Ordet «kunstig intelligens» viser til maskiner som lærer frå erfaring og etterlikner menneskeleg intelligens. I motsetning til andre rettsmedisinske teknologiar, er KI responsiv til miljøet sitt og brukarar, noko som betyr at utfalla deira kan variere. Men utan testing og gjennomsiktighet, aukar potensialet for feil betydeleg.
Den noverande tiltru til private selskap sine lovnader om at KI-teknologiane deira er robuste og nøyaktige, er problematisk. Ansiktsgjenkjenningsteknologi er til dømes trent på milliardar av offentleg tilgjengelege innlegg i sosiale medium for å forbetre nøyaktigheit. Likevel, når konfrontert med befolkningar ulike frå treningssettet sitt, kan teknologien generere feilaktige resultat.
Studiar har vist at ansiktsgjenkjenning med KI har høge feilratar, spesielt når han handterer bilete av svarte amerikanarar, særleg svarte kvinner. Dette reiser bekymringar om gyldigheit og pålitelegheit av KI i å identifisere individ nøyaktig.
Likevel blir nøyaktigheiten til KI-teknologiar ofte testa på ideell biletkvalitet, medan virkelige opptak brukt av rettshandsaminga ikkje alltid er perfekte. KI si evne til å analysere dårleg-kvalitetsdata er ein av selling-pointsa, men aukar òg risikoen for feil samanstemming.
Rettshandsaminga behandlar ansiktsgjenkjenningssamsvar som tips for vidare etterforsking heller enn konkrete bevis. Sjølv om denne tilnærminga siktar mot å førebyggje feilaktige arrestasjonar, snevrar han framleis fokuset på etterforskingar. Bruken av KI blir sjeldan avslørt for forsvaret, påtalemyndigheitane eller dommaren, og hindrar dei frå moglegheita til å stille spørsmål til funna deira.
Skaparar av rettssmedisinske maskinlæringsmodellar argumenterer for at å avsløre metodane deira ville avsløre forretningshemmeleghalde til konkurrentar. Likevel støttar desse selskapa generelt sett styresmaktene si regulering av KI i kriminaljustisområde.
Den mørke sida av å bruke KI i lovsystemet ligg i mangelen på gjennomsiktighet og ansvarsskyldigheit. For å sikre rettferd, er det avgjerande å etablere standardar for korleis og når KI-verktøy bør bli brukt, samt offentleggjerininga av deira bruk. Å tryggje grunnlovsrettar og etiske forpliktingar innanfor kriminaljustissystemet er viktig.
The source of the article is from the blog publicsectortravel.org.uk