人工智能（AI）在各个领域都取得了显著进展，包括制作深度伪造图像、创作音乐，甚至驾驶赛车。AI在法律系统中也产生了影响，带来了积极的和令人担忧的影响。法院依赖律师为客户案件中的法律提供支持，律师是法律系统的支柱。然而，一个日益严重的问题是出现了利用AI生成的虚假法律在法律纠纷中使用。这些虚假内容的使用不仅引发法律和伦理方面的担忧，而且对我们法律系统中的信任和信仰构成威胁。
那么，这些虚假法律是如何产生的呢？生成式AI是个具有变革性潜力的强大工具，它被用来在海量数据集上训练模型。在受到激发时，这些模型生成新内容，包括文本和视听材料。尽管生成的内容看起来令人信服，但由于AI模型依赖有缺陷或不足的训练数据，这些内容也可能有不准确性，从而导致所谓的“幻觉”。
在某些情况下，生成式AI的幻觉被视为创造性的产物。然而，当由AI创建的内容在法律程序中被使用时，它就变得棘手。这个问题还受到律师的时间压力和许多人对法律服务的有限访问的影响，这可能导致法律研究和文件准备中的疏忽和捷径。这样的做法可能损害法律职业的声誉，降低公众对司法行政的信任。
由生成式AI促成的虚假案件的发生并非仅仅是一个假设性关注。在2023年的美国Mata诉Avianca案中，律师向纽约法院提交了一个包含捏造内容和案例引用的简要，该简要是通过AI chatbot ChatGPT进行研究的。由于律师们未意识到这个模型可能会生成虚假信息，因此他们没有验证引用案例的存在。结果，他们的客户案件被驳回，律师们面临制裁和公众的批评。
涉及由AI生成的虚假案件的类似事件有很多，其中包括涉及唐纳德·特朗普的前律师迈克尔·科恩以及加拿大和英国的法律事务的案例。除非得到解决，这种趋势有误导法院、损害客户利益和破坏法治的潜力，最终会侵蚀人们对法律系统的信任。
全球各地的法律监管机构和法庭已开始对这个问题做出回应。美国各州的律师协会和法院，以及英国、不列颠哥伦比亚省和新西兰的法律协会和法院已发布了关于法律职业中生成式AI负责任使用的指导方针和规定。
然而，在自愿指导之外，需要一种强制性的方法。律师不应将生成式AI视为他们自己判断和勤勉的替代品。对他们来说，验证这些工具生成的信息的准确性和可靠性至关重要。澳大利亚法院应该采取做法说明或规定，概述了在诉讼中使用生成式AI时的期望，这不仅适用于律师，还适用于引导自我代表的诉讼当事人。这种积极的步骤将展示法院对这一问题的认识以及它们解决问题的承诺。
此外，法律职业应该考虑制定正式指导以促进律师对AI的负责使用。技术能力应该成为澳大利亚律师继续法律教育的要求。通过设立明确的伦理要求和负责任使用生成式AI的规定，我们可以促进适当采用并增强公众对我们的律师、法院和国家司法行政的信心。
AI对法律系统的影响是不可否认的，但重要的是解决它所带来的挑战，以确保我们法律系统的完整性和可信度。通过积极的举措和负责任的使用，我们可以驾驭这个迅速发展的领域，维护我们法律系统建立的原则。
常见问题
1. 生成式AI是什么？
生成式AI是指使用在海量数据集上训练的人工智能模型生成新内容，如文本和视听材料。
2. AI幻觉是什么？
AI幻觉是指当AI模型由于有缺陷或不足的训练数据而生成不准确或虚假内容时发生的现象。这是AI模型尝试基于其训练数据“填补空白”的结果。
3. 使用由AI创建的虚假法律为何令人担忧？
在法律纠纷中使用虚假法律引发了法律和伦理问题，不仅破坏了法律体系的完整性，还损害了对司法行政的信任。
4. 有哪些行动来解决法律系统中使用虚假法律的问题？
全球法律监管机构和法院正在回应这一问题。已发布了指导方针、规则和做法说明以促进律师对生成式AI的负责和道德使用。也正在考虑强制性要求和法律教育技术能力，以确保AI工具的正确使用。
5. 如何维护公众对法律系统的信任？
通过实施积极的措施，如明确规定诉讼中生成式AI的使用期望，并推动律师负责任使用，我们可以确保法律系统的完整性，维护公众对司法行政的信任。
来源：模拟数据
The source of the article is from the blog hashtagsroom.com