使用AI生成的影像存在的新威胁
虐童犯罪者越来越借助人工智能（AI）制作虚假受害者形象进行勒索。这种技术的危害性导致长期的剥削循环。在英国，使用AI制作和传播模拟虐待儿童图像是非法的，工党和保守党都坚决支持从严的禁令。然而，尽管政府采取了严厉的措施，全球在如何有效监管这些技术方面存在明显差异，这意味着AI仍然可能会被轻而易举地用来生成更多非法内容。
斯坦福研究人员揭开深层次挑战
斯坦福大学的研究人员在12月份做出了一个令人不安的发现，发现了隐藏在数十亿图像中的虐待儿童性行为资料（CSAM）案例，这些图像用于训练一些最大的AI图像生成器。鉴于“狮子”数据库包含大约50亿张图片，手动筛查是一项无法完成的任务。研究人员不得不自动化这个过程，将可疑内容与执法记录交叉核查，然后通知有关部门进行审查。该数据库已被从公共访问中撤回，强调没有直接的材料分发；而只提供了对外托管图像的链接。
AI滥用的全球规模
这个问题不仅限于“狮子”；许多用于开源AI研究的数据集已被广泛访问和利用。虽然像OpenAI这样的公司对其训练数据源提供有限的信息，并采用额外的过滤机制来保持其AI生成器的清洁，但实现一个完全干净的数据集仍然具有挑战性。促进开源AI发展和防止伤害之间的平衡仍然是政策制定者和技术人员面临的一项关键挑战。目前的提案主要针对用于明确目的设计的工具，但解决AI相关明确内容的长期问题引发了关于如何规范一个仅部分理解的系统的复杂问题。全球努力减轻AI技术的滥用对解决这一紧急问题至关重要。
重要问题与答案：
1. AI在在线虐待儿童方面存在哪些风险？
AI技术可能被滥用来创建或传播虐待儿童性行为资料（CSAM），操纵图像以制作合成形象进行勒索或策划，绕过旨在保护儿童在线的检测机制。虐待者也可能利用AI针对潜在受害者进行虚假伪装和交流。
2. 如何规范AI技术以防止其在儿童虐待中的滥用？
一些国家，如英国，已建立了法律，使使用AI制作和传播模拟虐待儿童图像非法。然而，由于互联网和AI技术的全球性质，各国的监管存在不一致性，制约了执法和最佳实践的共享。
3. 预防AI被滥用于儿童虐待方面存在哪些关键挑战？
主要挑战包括用于训练AI的数据量巨大，使得手动筛查几乎不可能，由于匿名性和全球分布，追踪在线图像的起源困难，以及需要一个平衡的方法，不会扼杀合法的开源AI研究和发展。
4. 围绕AI和儿童虐待是否存在争议？
一个争议集中在创新与安全之间的平衡。一些人主张开源开发和信息的自由交换，而其他人担心监督和规范的缺乏会增加虐待儿童的风险。此外，法律执法机构或国家监控系统对AI的潜在滥用引发道德顾虑。
优劣势：
AI的优势包括开发强大的工具，可以在经过培训和负责任地使用时帮助检测和预防在线虐待儿童。AI系统可以帮助识别人类难以辨认的捕食者和受害者之间隐藏的模式和联系。
然而，当这些技术落入错误的手中时，其劣势也是显著的。虐待者可以利用AI创建逼真且不易检测的CSAM。由于大规模监控可能涉及侵犯隐私，所以AI在这一方面带来风险，特别是在涉及未成年人时。
这些链接指向与上述文章相关的实体的主要域，这些实体涉及AI技术的监管、研究或发展。请记住始终直接查看这些资源以获取与AI及其对虐待儿童和保护的影响有关的最新政策、研究和技术。
The source of the article is from the blog yanoticias.es