連邦取引委員会（FTC）は、AI音声クローニング（オーディオディープフェイクとも呼ばれる）の増加する脅威に対応する革新的な解決策を求めています。参加を促すため、最良の解決策に対して2万5000ドルの報奨金を提供しています。簡単に使用できる音声クローニングツールを提供するオンラインサービスの急増により、サイバー攻撃での悪用の懸念が高まっています。
その中でも主要な懸念事項の1つは、CEOのなりすましによる財務部門を誤解させ、攻撃者の口座にお金を送金させることです。この種の詐欺は、友人や家族を装った個人にお金を送らせることもあります。さらに、この技術が進化し続ければ、演者の生計も危険にさらされます。
FTCは、AI音声クローニング詐欺の予防、監視、評価に焦点を当てた提案を2022年1月12日まで募集しています。その目標は、消費者、クリエイティブプロフェッショナル、中小企業を害から守ることです。実現可能なアイデアが出てこない場合、この技術の使用に対するより厳格な制限の必要性について決策者に警告することもあります。
提案は実現可能性、技術的変化に対する強靭さ、責任と責任の考慮事項に基づいて評価されます。最優秀賞は2万5000ドル、準優秀賞1名は4,000ドル、名誉賞3名にはそれぞれ2,000ドルの報奨金が与えられます。さらに、メンバー10人以上の組織には無報酬の表彰が授与されます。
AI音声クローニングは既に様々なケースで効果的に使用されています。例えば、英国のエネルギー会社は、CEOが詐欺業者にお金を送金するよう騙され、24万3000ドルを失いました。銀行も標的になっており、ロマンス詐欺も増えており、犯罪者は有名人や愛する人をまねて被害者からお金を騙し取っています。
音声クローニングを行うためには、AIモデルが個人の声のニュアンス（トーン、ペーシング、イントネーションなど）を理解するための十分なトレーニングデータが必要です。有名人や公人は、オンライン上で大量の音声録音が利用可能なため、特に脆弱です。ただし、一般の人々や子供たちでも、効果的なモデルのトレーニングに十分なオンライン素材があります。
無料で利用できる音声クローニングツールもありますが、MicrosoftのVALL-Eモデルなどの有料ソリューションのほうがより説得力のあるクローンを生成します。これらの技術はまだ開発の初期段階にあり、時間の経過とともに精度と効果が向上する可能性があります。FTCの報奨金イニシアチブは、この増加する脅威に対抗し、AI音声クローニングによる個人や企業への被害を防ぐことを目指しています。
The source of the article is from the blog krama.net