在线平台上的网络喷子正在使用AI工具传播骚扰和种族主义材料。这些工具使用户能够操纵图像和生成虚假的音频，给那些出现在像路易斯安那假释委员会之类的组织面前的个人造成了巨大的伤害。尽管被操纵的内容并未在4chan以外广泛传播，但专家警告称，这展示了AI驱动的在线骚扰的潜力。
这些边缘平台通常充当采用新技术（如AI）的温床，使用户能够放大他们的极端意识形态，并将其投射到主流空间中。针对创建色情内容的AI图像生成器的崛起已经成为一个重大关注点。像Dall-E和Midjourney这样的工具，只需提供文本描述，就能让用户生成露骨图像。
监管机构和技术公司正在应对这些AI工具带来的挑战。虽然缺乏联邦法律，但伊利诺伊州、加利福尼亚州、弗吉尼亚州和纽约州等一些州已经采取措施禁止制作和传播非自愿的AI生成的色情作品。路易斯安那假释委员会本身已经对网络喷子制作的操纵图像展开调查。
AI的另一个使用引起了警惕，那就是语音克隆。ElevenLabs开发的一种AI工具可以创建出令人信服的某人的数字化声音副本。这个工具被滥用来制作名人说冒犯和种族主义言论的虚假音频片段。ElevenLabs实施的限制措施对遏制AI生成的声音在TikTok和YouTube等平台上传播的影响甚微，这些平台上经常分享政治虚假信息。
此外，开源AI工具（如Meta的Llama语言模型）已被4chan上的用户利用来产生反犹太主义思想、极右派论点、性暗示内容、种族主义模因等内容。这突显了发布缺乏适当安全保障和监管的AI软件代码可能带来的潜在危险。
随着AI的不断进步，监管机构和技术公司合作发展强有力的措施来应对这些工具的滥用至关重要。在确保AI不被用于恶意目的且个人免受在线骚扰和仇恨运动的有害影响方面，平衡责任和公开性将至关重要。
The source of the article is from the blog xn--campiahoy-p6a.es