Umetna inteligenca (UI) je postala vse bolj prisotna v ameriškem pravosodnem sistemu, pri čemer njen vpliv pogosto ostaja neopažen. Policija in tožilci se zanašajo na orodja UI za pomoč pri kriminalističnih preiskavah, vendar so ta orodja zavita v tančico skrivnosti, kar pomeni, da obtoženi nimajo možnosti izpodbijati njihove uporabe ali razumeti njihovega vpliva na svoj primer.
Rebecca Wexler, profesorica prava na Univerzi v Kaliforniji, Berkeley, poudarja pomanjkanje razkritja glede uporabe UI v pravosodnem sistemu. Tožilci niso dolžni obveščati sodnikov ali obrambe o uporabi UI, kar ustvarja pomembno informacijsko vrzel.
Orodja za umetno inteligenco in strojno učenje se uporabljajo za različne namene v kazenskem pravosodju, vključno z identifikacijo obrazov, orožja in registrskih tablic, izboljšanjem analize DNK ter napovedovanjem kriminala. Vendar zakoni o poslovnih skrivnostih preprečujejo javno transparentnost teh orodij, kar ustvarja “črno škatlo”. Ni jasnih smernic, kako naj se uporablja UI in kdaj mora biti njegova uporaba razkrita.
Eden od glavnih pomislekov je pristranskost, ki jo najdemo v orodjih UI, zlasti v tehnologiji prepoznavanja obrazov. Ta orodja so pokazala, da napačno prepoznajo ljudi barve zaradi pretežnega usposabljanja na belih obrazih. To postavlja pomembna vprašanja glede poštenosti in natančnosti v kazenskem pravosodju.
Da bi naslovili te težave, je poslanec Mark Takano (D-Calif.) predlagal zakonodajo, namenjeno testiranju in transparentnosti v kazenskem pravosodju. Zakonodaja si prizadeva obvladati problem črnih škatel, ki se tržijo brez odgovornosti.
Pomanjkanje transparentnosti pri tehnologijah UI postavlja vprašanja, kako lahko obtoženi zagovarjajo svoje pravice na poštenem sojenju. Ko soči in dokazi so varovani kot poslovne skrivnosti, so temeljna načela pravičnosti ogrožena.
Pogosta vprašanja:
1. Kaj je umetna inteligenca (UI)?
Umetna inteligenca se nanaša na stroje, ki se učijo iz izkušenj in posnemajo človeško inteligenco pri napovedovanju rezultatov.
2. Zakaj je transparentnost pomembna pri uporabi UI v pravosodnem sistemu?
Transparentnost zagotavlja, da imajo obtoženci priložnost izpodbijati orodja UI, uporabljena proti njim, in razumeti njihov vpliv na njihov primer. Prav tako omogoča odgovornost in preprečuje morebitne pristranskosti in napake.
3. Kakšna je skrb pri tehnologiji prepoznavanja obrazov UI?
Tehnologija prepoznavanja obrazov je pokazala pristranskosti in visoke stopnje napak, zlasti pri obdelavi slik črnih posameznikov. To postavlja vprašanja o poštenosti in natančnosti prepoznavanja posameznikov.
4. Katera zakonodaja je bila predlagana za obravnavo teh težav?
Poslanec Mark Takano je predlagal zakonodajo za testiranje in transparentnost v kazenskem pravosodju, ki naslavlja izzive, ki jih ustvarjajo črne škatle in potreba po odgovornosti pri uporabi UI.
Vir:
– The Hill. (URL: https://thehill.com/policy/technology/545712-how-ai-risks-creating-a-black-box-at-the-heart-of-us-legal-system)
The source of the article is from the blog tvbzorg.com