人工智能（AI）技术的进步给各个行业带来了许多好处和进步。然而，在这一进展的同时，由于儿童安全专家和研究人员认为AI可能加剧在线剥削的潜在风险而浮出水面。
根据美国国家儿童失踪和被剥削中心（NCMEC）的数据，去年共收到了4700起关于AI生成的包含儿童性剥削内容的举报。这个令人震惊的数字表明，随着AI技术的不断发展，这个问题有望进一步扩大。
虽然NCMEC尚未披露2023年接收到的所有来源的儿童虐待内容举报的总数，但该组织透露仅在2022年就收到了大约8830万个文件。这些举报来自生成AI公司自身、在线平台以及偶然发现此类令人不安内容的人们。
为了解决这个问题的紧迫性，NCMEC在向执法机构报告儿童虐待内容方面扮演着至关重要的角色。NCMEC的高级副总裁约翰·谢汉强调，AI帮助实现了对儿童的剥削。
最近，Facebook元公司、X公司、TikTok、Snap和Discord的首席执行官在参议院听证会上受到关于在线儿童安全的问询。立法者们就这些社交媒体和通讯公司保护儿童免受网络捕食者的努力进行了调查。
斯坦福大学互联网观察站在六月份发布了一份报告，强调了滥用者利用生成AI创建与真实儿童极其相似的新图像的令人担忧潜力。随着这些AI生成的材料越来越接近真实照片，区分真实受害者和AI创造物之间的区别变得非常具有挑战性。
为了应对这个不断增长的问题，受到广泛欢迎的ChatGPT背后的组织OpenAI已经建立了一个系统将举报内容传送给NCMEC。此外，NCMEC与其他生成AI公司正在就建立类似措施展开讨论。
AI的兴起既带来了创新也带来了责任。随着社会继续拥抱AI技术，我们必须保持警惕，解决新兴问题，以保护弱势群体，特别是儿童的福祉。
常见问题：
问：AI的“黑暗面”是什么？
答：AI的“黑暗面”指的是人工智能技术的潜在风险和负面影响，特别是在加剧在线剥削方面。
问：去年有多少关于AI生成的儿童性剥削内容的举报？
答：根据NCMEC的数据，去年有4700起关于AI生成的儿童性剥削内容的举报。
问：NCMEC在2022年收到了多少与儿童虐待内容相关的文件？
答：仅在2022年，NCMEC收到了大约8830万个与儿童虐待内容相关的文件。
问：NCMEC在解决这个问题中扮演着什么角色？
答：NCMEC作为向执法机构报告儿童虐待内容的国家信息交流中心发挥着至关重要的作用。
问：哪些社交媒体和通讯公司在参议院听证会上接受了关于在线儿童安全的问询？
答：Facebook元公司、X公司、TikTok、Snap和Discord的首席执行官在参议院听证会上接受了关于在线儿童安全的问询。
问：斯坦福互联网观察站的报告重点是什么？
答：斯坦福互联网观察站的报告强调滥用者利用生成AI创建与真实儿童极其相似的新图像的令人担忧潜力。
问：OpenAI和其他生成AI公司采取了哪些措施来解决这个问题？
答：OpenAI已建立了一个系统将举报内容传送给NCMEC，并且NCMEC正在与其他生成AI公司就建立类似措施展开讨论。
术语定义：
- AI（人工智能）：使机器能够执行通常需要人类智能的任务的技术。
- 儿童虐待内容：描绘儿童性剥削或虐待的内容。
- 生成AI：能够生成新数据或内容（例如图像或文本）的人工智能。
- NCMEC（美国国家儿童失踪和被剥削中心）：致力于防止儿童被绑架、儿童性剥削和寻找失踪儿童的全国组织。
- 社交媒体和通讯公司：为用户提供在线平台和服务，使其能够与其他人连接、沟通和分享内容的公司。
相关链接：
The source of the article is from the blog enp.gr