技术的飞速发展，尤其是人工智能技术的应用，正在引发众多伦理和法律挑战。近日，在一场国会监察小组听证会上，佛罗里达州共和党籍众议员安娜·保利娜·路娜（Rep. Anna Paulina Luna）指出，AI生成的虚假淫秽内容给执法机构带来了巨大挑战。目前，现行的反对虐待儿童和性暴力图像的法律要求使用实际儿童照片才能进行起诉。
AI生成的内容具有高度的虚构性，使普通儿童图像可以转化为虚假的但充满暴力内容，这让执法机构难以采取行动。非营利性组织NetChoice的副总裁卡尔·萨博（Carl Szabo）解释称：“不法分子拍摄儿童照片，利用AI将其修改成性质妨害的画面，然后通过法律上的技术性规定来逃避起诉。”
针对这些挑战，所有50个州的检察长联名致信国会，敦促研究AI在虐待儿童方面的利用，提出有效解决方案以防止和解决此类剥削。这封信特别要求将AI生成的虐待儿童图像明确纳入立法范围，使检察官能够采取适当行动。
路娜众议员强调了联邦调查局（FBI）在起诉涉案个人方面面临的困难。由于AI生成的图像并未导致实际儿童受到伤害，现有法律框架无法追究责任。FBI对解决这一问题表示出兴趣，但他们在努力中面临重要障碍。
尽管目前AI生成的虐待儿童内容在网络中占比较小，但由于生成AI程序的易用性、多功能性和高度逼真性，预计会增长。国家失踪与被剥削儿童中心（NCMEC）被剥削儿童部副总裁约翰·谢恩（John Shehan）强调了主动应对这一问题的重要性。他强调了斯坦福互联网观察所进行的研究，该研究指出生成AI是造成虐待儿童图像增加的一个因素。
NCMEC运营着网络举报网络，这是全国在线儿童剥削的集中举报系统。尽管越来越多的应用程序和服务使用生成AI技术，但只有少数公司向举报系统提交了报告。谢恩强调了技术公司在开发这些工具时应优先考虑安全，并与NCMEC这样的组织合作，以防止生成有关儿童的性剥削和裸体内容。
遗憾的是，执法机构在调查和起诉AI生成的虐待儿童图像案件时面临重大挑战。案件数量庞大，资源不足，这制约了他们针对最严重犯罪者的行动。纽约共和党籍参议员尼克·兰格沃西（Rep. Nick Langworthy）在参议院司法委员会听证会上强调了约翰·皮祖罗（John Pizzuro）所提出的令人震惊的数据。美国有超过99,000个IP地址在三个月内分发已知的虐待儿童图像，但只有782起案件得到调查。
为了有效解决这一问题，国会采取行动是至关重要的。通过在立法中明确将AI生成的虐待儿童图像纳入范围，将赋予执法机构必要的工具来起诉犯罪分子。政府机构、技术公司和非营利组织的合作对于保护儿童免受这些严重犯罪行为至关重要。
FAQ
The source of the article is from the blog exofeed.nl