人工智能（AI）已经在美国法律系统中的刑事调查中进行了革命性的变革，显著提升了警察和检察官的运作方式。全球法律AI市场预计到2027年将达到379亿美元的价值，年复合增长率为37.8%。这一增长主要受到采用AI驱动工具进行法律研究、合同分析和案件管理的日益增加的影响（资料来源：大观研究）。
然而，关于AI使用缺乏透明性的问题对被告构成了挑战。通常情况下，AI干预的发生都是在没有他们知情或审核的情况下，造成了信息鸿沟，可能对他们的案件造成不利影响。被告发现很难挑战用于对抗他们的AI工具并充分理解这些工具使用的影响。
加利福尼亚大学伯克利分校的法律教授丽贝卡·韦克斯勒（Rebecca Wexler）强调了AI在法律系统内部实施的不透明性引起的关注。法官和辩护律师通常缺乏关于AI工具利用的基本信息，造成知识的不平衡，使被告处于劣势。
AI和机器学习已经成为刑事司法的各个方面的不可或缺部分，包括面部识别、DNA分析和犯罪预测。然而，许多这些AI工具都被严密保守为商业机密，阻碍了公众监督，助长了通常所说的“黑盒”效应。缺乏关于AI工具使用和披露的明确指导方针进一步加剧了这些挑战。
一个显著的关注领域是面部识别AI技术存在的固有偏见。多项研究已经表明，面部识别工具经常由于训练主要针对白种人面孔，而频繁误识别有色人种。这引发了有关刑事司法系统内公平性和准确性的令人担忧的问题，因为这些偏见可能产生严重后果。
为了认识到变革的必要性，加州民主党众议员马克·塔卡诺（Mark Takano）提出了旨在增加刑事司法系统内测试和透明度的立法。该提议旨在解决使用缺乏问责制的黑盒技术所引发的问题，并旨在促进更广泛意识和监督。
AI技术中的不透明性对被告在捍卫自己权利、确保公平审判方面提出了根本性问题。当关键证人和证据被作为商业机密隐瞒时，正义原则就受到了损害。
常见问题解答（FAQ）:
什么是人工智能（AI）？
人工智能是指开发出能从经验中学习并模仿人类智能来预测结果的机器。
为什么AI在法律系统中的使用中透明度重要？
透明度确保被告有机会挑战用于对抗他们的AI工具并理解这些工具对他们案件的影响。它还有助于建立问责制，避免潜在的偏见和错误。
面部识别AI存在什么问题？
面部识别AI显示出偏见和高错误率，特别是在处理黑人的图像时。这引发了有关准确识别个体的公平性和准确性的担忧。
已经提出了哪些立法以解决这些问题？
马克·塔卡诺提出了旨在测试和透明刑事司法的立法，旨在解决由缺乏问责机制的黑盒技术所带来的挑战，以及支持AI使用中的问责制的必要性。
来源：
– The Hill（URL： https://thehill.com/policy/technology/545712-how-ai-risks-creating-a-black-box-at-the-heart-of-us-legal-system）
The source of the article is from the blog papodemusica.com