联邦贸易委员会（Federal Trade Commission，简称FTC）正在寻求创新解决方案，以应对AI声音克隆的日益威胁，也被称为音频深度伪造。为激励参与，他们将提供2.5万美元的奖金给最佳解决方案。在线服务的蔓延提供了易于使用的声音克隆工具，引发了人们对在网络攻击中可能被滥用的担忧。
其中一个主要担忧是CEO被冒充，以欺骗财务部门将资金转到攻击者的账户。这种欺诈行为还会欺骗朋友和家人将钱汇给冒充他们亲人的个人。此外，如果这项技术继续进步，表演艺术家的生计也会面临风险。
FTC要求自愿提交截止日期为1月12日，并关注预防、监测和评估基于AI的声音克隆诈骗行为。目标是保护消费者、创意专业人员和中小企业免受伤害。如果没有出现可行的想法，这可能向决策者们发出警告，告诉他们有必要对该技术的使用进行更严格的限制。
提交的解决方案将根据可行性、对技术变革的适应能力以及责任和义务的考虑进行评估。一等奖为2.5万美元，亚军将获得4,000美元，三个荣誉提名将分别奖励每人2,000美元。此外，拥有10名以上成员的组织将获得免现金认可奖。
AI声音克隆已经在各种案例中成功使用。例如，一家英国能源公司在其首席执行官被欺骗向欺诈供应商汇款时损失了24.3万美元。银行也成为了目标，而浪漫骗局也行之有效，犯罪分子模仿名人和亲人欺骗受害者给他们钱财。
要进行声音克隆，AI模型需要足够的训练数据来了解个人声音的细微差别，包括语调、节奏和语气。名人和公众人物尤其容易受到攻击，因为网络上充斥着大量的语音记录。然而，即使非名人和儿童也有足够的在线材料来有效地训练一个模型。
虽然有免费的声音克隆工具，但像微软的VALL-E模型这样的付费解决方案生成的克隆更具说服力。这些技术仍处于早期发展阶段，随着时间的推移，准确性和效果可能会提高。FTC的奖励计划旨在应对这一日益威胁，并保护个人和企业免受AI声音克隆带来的伤害。
The source of the article is from the blog macnifico.pt