Umjetna inteligencija (UI) postala je sveprisutna u američkom pravnom sustavu, no njezina uporaba često se odvija bez svijesti i analize optuženika. Alati umjetne inteligencije koriste se od strane policije i tužitelja u kaznenim istragama, no nedostatak transparentnosti u vezi njihove uporabe stvara informacijski jaz, zbog čega optuženici nisu sposobni osporiti ili razumjeti posljedice.
Rebecca Wexler, profesorica prava na Sveučilištu u Kaliforniji, Berkeley, skrenula je pozornost na nedostatak transparentnosti oko uporabe UI u pravnom sustavu. Suci i branitelji često nisu obaviješteni o implementaciji alata umjetne inteligencije, što rezultira značajnom informacijskom asimetrijom.
Alati umjetne inteligencije i strojnog učenja koriste se u različitim aspektima kaznenog pravosuđa, poput prepoznavanja lica, poboljšanja analize DNA i predviđanja zločina. Međutim, ovi alati često su zaštićeni kao poslovna tajna, ometajući javnu provjeru i stvarajući tzv. “crnu kutiju” efekt. Nedostatak jasnih smjernica o uporabi i objavi UI dodatno pogoršava ove probleme.
Posebna zabrinutost je prisutnost pristranosti u alatima umjetne inteligencije, posebice u tehnologiji prepoznavanja lica. Istraživanja su pokazala da ti alati često krivo identificiraju osobe drugačije boje kože jer su obučeni na pretežno bijelim licima. To postavlja ozbiljna pitanja o poštenju i točnosti unutar kaznenog pravosuđa.
Kako bi se riješili ti izazovi, Rep. Mark Takano (D-Calif.) predložio je zakonodavstvo s ciljem povećanja testiranja i transparentnosti u kaznenom pravosuđu. Zakonodavstvo ima za cilj suzbiti problem crnih kutija tehnologije koje nedostaju odgovornost i olakšavaju veću svijest i nadzor.
Nedostatak transparentnosti u tehnologijama umjetne inteligencije uzrokuje duboke zabrinutosti o sposobnosti optuženika da se zauzmu za svoja prava i osiguraju pravedno suđenje. Kada se bitni svjedoci i dokazi drže kao poslovne tajne,…
FAQ
1. Što je umjetna inteligencija (UI)?
Umjetna inteligencija odnosi se na razvoj strojeva koji su sposobni učiti iz iskustava i imitirati ljudsku inteligenciju u predviđanju ishoda.
2. Zašto je transparentnost važna u uporabi UI u pravnom sustavu?
Transparentnost osigurava da optuženici imaju priliku osporiti alate umjetne inteligencije koji se koriste protiv njih i razumjeti njihov utjecaj na slučaj. Također dopušta odgovornost i sprječava moguće pristranost i greške.
3. Koja je zabrinutost s tehnologijom prepoznavanja lica putem UI?
Tehnologija prepoznavanja lica putem UI pokazala je pristranost i visoke stope grešaka, posebice kada se radi o slikama crnih osoba. To izaziva zabrinutost o poštenju i točnosti u točnom identificiranju osoba.
4. Koje je zakonodavstvo predloženo za rješavanje ovih problema?
Rep. Mark Takano predložio je zakonodavstvo s ciljem testiranja i transparentnosti u kaznenom pravosuđu, adresažući izazove koje postavljaju tehnologije crnih kutija i potrebu za odgovornošću u uporabi UI.
Izvori:
– The Hill. (URL: thehill.com)
The source of the article is from the blog zaman.co.at