美国一名个人正在面临指控，此前进行调查发现他拥有超过10,000张儿童色情图片。检方指控42岁的史蒂文·安德瑞格使用人工智能工具，特别是稳定扩散AI模型，生成涉及未成年人的色情内容。
当国家失踪与被剥削儿童中心去年收到对他Instagram账号的惊人报告后，当局开始调查安德瑞格的在线活动。他们的调查造成了安德瑞格笔记本电脑的扣押，随后发现了成千上万张人工智能生成的非法图片，以及生产该内容的有意特定文本提示的证据。
安德瑞格向一个15岁男孩发送了明显的AI生成图片，通过Instagram。如果他被定罪涉及制作、分发和拥有儿童性虐待材料以及向未成年人发送不当材料的所有罪名，他将面临最高长达大约70年的监禁。
这个案例被404 Media列为FBI第一次以使用人工智能生成儿童性虐待材料对某人提起指控的案例。在网络安全和人工智能研究社区，对于人工智能技术越来越频繁地被滥用的担忧日益加剧。最近，佛罗里达州有两名高中男孩因使用人工智能制作同学裸照而被捕，这标志着一种令人担忧的趋势开始影响到教育机构。
这个案例提出了一些关于发展和使用人工智能（AI）的关键问题和挑战，尤其是在生成诸如儿童性虐待材料（CSAM）等非法内容方面。以下是涉及该主题的一些重要问题、回答、挑战、争议、优势和劣势：
重要问题及回答：
1. AI如何被用于创建这些非法内容？
类似稳定扩散这样的AI模型可以根据文本描述合成图像。用户可以输入详细的提示，AI模型生成对应的图像。在此案中，被告使用具体提示生成涉及未成年人的不当内容。
2. 使用AI创建非法内容的法律后果是什么？
制作、分发和拥有儿童性虐待材料均属于非法行为，无论使用何种方法创建这些材料都是如此。使用AI并不减轻CSAM的犯罪性质，参与此类活动的个人将面临严重的法律后果。
主要挑战与争议：
– 监管AI： 人工智能技术的迅速发展给制定可以阻止滥用但不扼杀创新的规定带来了重大挑战。
– 道德和伦理关切： AI可能被用于恶意目的引发了有关强大AI模型开发和分发协议的伦理问题。
– AI生成材料的模糊性： AI涉及的创建非法内容的定义可能引入法律灰色区域。
– 先例： 该案例可能为未来处理AI生成CSAM的案例奠定法律先例。
优势和劣势：
– 优势： 使用AI生成图像可以有良性应用，包括艺术、设计、娱乐和教育用途。它可以降低创意工作的成本，提高效率。
– 劣势： 若落入错误的手中，AI可用于制作类似CSAM的非法内容，用于虚假信息宣传的deepfake和其他形式的数字剥削。它增强了个人生成和传播此类材料的规模。
欲了解有关AI技术及其滥用引起的后果的更多信息，请访问以下权威来源：
– 联邦调查局（FBI）
– 国家失踪与被剥削儿童中心（NCMEC）
– 美国公民自由联盟（ACLU）
– 电子前沿基金（EFF）
需要认识到，虽然这个案例非常负面，但它仅代表了人工智能的能力和应用的一小部分，这些应用在各行各业中有着广泛的积极和创新用途。