人工智能（AI）在美国法律体系中的应用日益普遍，但其使用通常发生在被告不知情和未经审查的情况下。AI工具被警察和检察官用于刑事调查，但缺乏关于其使用的披露造成信息鸿沟，让被告无法进行挑战或理解其影响。
加州大学伯克利分校法学教授Rebecca Wexler提到了法律体系中AI缺乏透明度的问题。法官和辩护律师并未始终被告知有关AI工具的使用情况，导致显著的信息不对称。
AI和机器学习工具在刑事司法的各个方面被使用，例如面部识别、提升DNA分析和犯罪预测。然而，这些工具通常受到商业秘密的保护，阻碍了公众审查，产生了“黑匣子”效应。缺乏有关AI使用和披露的明确指导加剧了这些问题。
一个引人瞩目的担忧是AI工具中存在的偏见，尤其是面部识别技术。研究表明，这些工具往往在对白人面孔进行训练后会误认辨别有色人士，这引发了刑事司法体系中公正和准确性的严重问题。
为了解决这些挑战，加州国会议员Mark Takano提出了旨在增加刑事司法测试和透明度的立法。该立法旨在解决缺乏问责制的黑匣子技术问题，并促进更大范围的意识和监督。
AI技术的不透明性引发了关于被告如何捍卫自己权利并确保公平审判的深刻关切。当关键证人和证据
问题解答
The source of the article is from the blog toumai.es