据彭博社报道，名为ElevenLabs的人工智能初创企业已经采取必要措施，禁止一位用户制作了一段乔·拜登深度伪造音频，企图干扰选举。这段伪造音频冒充总统的声音，被用于机器人电话呼叫，敦促新罕布什尔州的选民不参加该州的初选。尽管最初不清楚这项技术是如何模仿拜登的声音的，但一家名为Pindrop的安全公司进行了彻底分析，并成功确认使用了ElevenLabs的工具。
Pindrop并未直接引用原文，而是解释说他们消除了背景噪音，增强了机器人电话的音频，然后将其与与深度伪造音频有关的多个语音合成技术样本进行对比。Pindrop的首席执行官Vijay Balasubramaniyan表示，分析证实使用了ElevenLabs的工具，准确率超过99%。彭博社补充道，该公司在获悉Pindrop的调查结果后，正在调查此事，并已经确定并暂停了相关账户。
这起涉及深度伪造的拜登机器人电话事件凸显了能够模仿一个人的声音和形象的技术对即将到来的美国总统选举中选民投票和对选举工作人员的攻击可能产生的影响。卡内基梅隆大学的教授Kathleen Carley向《希尔报》表示，这表明了在未来几个月内在选民压制和对选举工作人员的攻击方面预计将会发生什么。
有趣的是，仅仅在ElevenLabs推出平台的测试版几天内，就有人利用该技术创作出能模仿名人说出问题言论的音频剪辑。尽管这家初创企业鼓励人们将其技术用于艺术和政治言论，以促进公众讨论，但警告用户不要滥用该技术进行欺诈、歧视或仇恨性言论等违反法律的行为。然而，这起事件凸显了ElevenLabs需要采取额外措施来防止恶意行为者操纵全球选举。
请注意，本文可能包含推广链接。如果您点击此类链接并进行购买，我们可能会获得佣金。
常见问题：
1. ElevenLabs是什么？
ElevenLabs是一家开发语音合成技术工具的人工智能初创企业。
2. 为什么ElevenLabs封禁了一位用户？
ElevenLabs封禁了一位创建了乔·拜登深度伪造音频的用户，该用户企图干扰选举。
3. 拜登的深度伪造音频是如何被使用的？
该深度伪造音频被用于机器人电话呼叫，敦促新罕布什尔州的选民不参加该州的初选。
4. 如何确定使用了ElevenLabs的工具？
一家名为Pindrop的安全公司进行了彻底分析，并以超过99%的准确率确认使用了ElevenLabs的工具。
5. 关于深度伪造技术和选举方面有哪些担忧？
涉及深度伪造的拜登机器人电话事件凸显了能够模仿一个人的声音和形象的技术对选民压制和对选举工作人员的攻击可能产生的影响。
6. ElevenLabs的技术推出后，人们多快开始利用？
ElevenLabs平台测试版推出后仅几天，人们就开始利用该技术来制作模仿名人说出问题言论的音频剪辑。
7. ElevenLabs鼓励使用其技术的哪些方式？
ElevenLabs鼓励将其技术用于艺术和政治言论，以促进公众讨论。
8. ElevenLabs警告哪些使用方式？
ElevenLabs警告用户不要滥用该技术进行欺诈、歧视或仇恨性言论等违反法律的行为。
定义：
– 深度伪造：利用人工智能创建或操纵音频、视频或其他媒体，以迷惑或欺骗观众或听众，使其相信伪造内容是真实的。
– 机器人电话：自动电话呼叫向大量人员传递预先录制的消息。
相关链接建议：
– ElevenLabs官方网站
– Pindrop官方网站
– 卡内基梅隆大学
The source of the article is from the blog toumai.es