Umělá inteligence (AI) udělala významné pokroky v americkém právním systému, revolučně změnila způsob, jakým policie a státní zástupci provádějí kriminální vyšetřování. Nicméně využívání AI v právním systému často probíhá bez znalosti nebo kontroly obžalovaných, vytvářejíc tak významný informační rozdíl. Tento nedostatek transparentnosti brání obžalovaným v úsilí vzdorovat AI nástrojům používaným proti nim a porozumět důsledkům jejich použití.
Rebecca Wexler, profesorka práva na Kalifornské univerzitě v Berkeley, vyjádřila obavy ohledně neprůhledné povahy AI v právním systému. Soudci a obhájci nejsou konzistentně informováni o využívání AI nástrojů, což vede k asymetrii informací, která staví obžalované do nevýhody.
Nástroje AI a strojového učení hrají klíčovou roli v různých aspektech trestního řízení, včetně rozpoznávání obličejů, analýzy DNA a predikce zločinu. Avšak tyto nástroje jsou často chráněny jako obchodní tajemství, čímž se brání veřejné kontrole a vytváří to, co je běžně označováno jako „efekt černé skříňky“. Absence jasných směrnic ohledně použití a zveřejňování AI nástrojů dále zhoršuje tyto problémy.
Jedním z hlavních důvodů obav týkajících se nástrojů AI je jejich projevující se náchylnost ke zkreslení, zejména v technologii rozpoznávání obličejů. Studie prokázaly, že tyto nástroje mají tendenci špatně identifikovat osoby barvy pleti kvůli svému výcviku na převážně bílých obličejích. To vyvolává vážné otázky spravedlnosti a přesnosti v trestním soudnictví.
Při uvědomění si těchto výzev zavedl rep. Mark Takano (D-Calif.) legislativní návrh zaměřený na zvýšení testování a transparentnosti v trestním řízení. Tento legislativní návrh si klade za cíl řešit problém využívání „černých skřínek“ bez odpovědnosti a podporovat větší povědomí a dohled.
Nedostatek transparentnosti v technologiích AI vyvolává zásadní otázky ohledně schopnosti obžalovaných hájit svá práva a zajistit spravedlivý soudní proces. Když základní svědci a důkazy jsou skryty jako obchodní tajemství, jsou oslabeny zásady spravedlnosti.
### FAQ
**Co je umělá inteligence (AI)?**
Umělá inteligence odkazuje na vývoj strojů schopných učit se zkušeností a napodobovat lidskou inteligenci při predikci výsledků.
**Proč je transparentnost důležitá při použití AI v právním systému?**
Transparentnost zajišťuje, že obžalovaní mají příležitost vzdorovat AI nástrojům používaným proti nim a porozumět jejich vlivu na jejich případ. Také umožňuje odpovědnost a zabrání potenciálním zkreslením a chybám.
**Jaký je problém s technologií rozpoznávání obličejů AI?**
Technologie rozpoznávání obličejů vykazují zkreslení a vysokou chybovost, zejména pokud jde o obrázky osob tmavé pleti. To vyvolává obavy ohledně spravedlnosti a přesnosti při správném identifikování osob.
**Které legislativní opatření byla navržena k řešení těchto otázek?**
Rep. Mark Takano zavedl legislativní návrh zaměřený na testování a transparentnost trestního řízení, s cílem řešit výzvy, které představují technologie „černých skříněk“ a potřebu odpovědnosti při využívání AI.
Zdroje:
– The Hill. Odkaz
The source of the article is from the blog anexartiti.gr