AIスタートアップのElevenLabsは、Bloombergによると、選挙を妨害するためにジョー・バイデンの声のディープフェイクを作成したユーザーを処分しました。このディープフェイクは大統領の役割を演じ、ロボコールで使われ、ニューハンプシャー州の予備選挙に参加しないよう呼びかけました。当初、技術がどのようにしてバイデンの声を模倣したのかははっきりしませんでしたが、セキュリティ会社のPindropが徹底的な分析を実施し、ElevenLabsのツールが使用されたことを確認しました。
オリジナル記事からの直接引用ではなく、Pindropがロボコールの音声から背景ノイズを除去し、音声を強化してからディープフェイクと関連のある多くの音声合成技術のサンプルと比較したと説明できます。PindropのCEO、ヴィジェイ・バラスブラマニヤン氏は、ElevenLabsのツールの使用を99％を超える確信度で確認したと述べています。Bloombergによると、同社はPindropの調査結果を知った後、現在その問題を調査しており、すでに責任あるアカウントを特定し、停止させたと報告されています。
ジョー・バイデンのディープフェイクを巡るこの事件は、特に今後の米国大統領選挙において、声や外見を模倣することが可能な技術が持つ潜在的な影響を強調しています。カーネギーメロン大学の教授であるキャスリーン・カーリー氏は、The Hillに対して、これが有権者の抑圧や選挙関係者への攻撃が今後数か月にわたってどのような展開を見せるかを示すものであると懸念を表明しました。
興味深いことに、ElevenLabsがプラットフォームのベータ版をリリースしてからわずか数日で、人々がその技術を悪用して疑わしい発言をする有名人を模倣する音声クリップを作成しました。このスタートアップは、芸術や政治的なスピーチなど公共の議論に貢献する目的で技術の使用を推奨していますが、詐欺、差別、ヘイトスピーチなどの法律に違反する悪用には注意を促しています。それにもかかわらず、この事件はElevenLabsが世界中の選挙を悪用する悪意ある行為者を防ぐために追加の保護策を導入する必要性を浮き彫りにしています。
この記事にはアフィリエイトリンクが含まれている場合があります。そのようなリンクをクリックして購入すると、私たちは報酬を得ることがあります。
FAQ:
1. ElevenLabsとは何ですか？
ElevenLabsは、音声合成技術のためのツールを開発したAIスタートアップです。
2. ElevenLabsはなぜユーザーを処分したのですか？
ElevenLabsは、選挙を妨害するためにジョー・バイデンの声のディープフェイクを作成したユーザーを処分しました。
3. ジョー・バイデンのディープフェイクはどのように使用されましたか？
ディープフェイクはニューハンプシャー州の予備選挙に参加しないよう呼びかけるロボコールで使用されました。
4. どのようにしてElevenLabsのツールが使用されたことが判明したのですか？
セキュリティ会社のPindropが徹底的な分析を実施し、ElevenLabsのツールの使用を99％を超える確信度で確認しました。
5. ディープフェイク技術と選挙に関する懸念は何ですか？
ジョー・バイデンのディープフェイクを巡る事件は、声や外見を模倣することが可能な技術が選挙関係者への抑圧や攻撃に与える潜在的な影響を強調しています。
6. ElevenLabsの技術はリリース後、どれくらい早く悪用されましたか？
ElevenLabsのプラットフォームのベータ版がリリースされてからわずか数日で、人々がその技術を悪用して疑わしい発言をする有名人を模倣する音声クリップを作成しました。
7. ElevenLabsは自社の技術のどのような使用を推奨していますか？
ElevenLabsは、芸術や政治的なスピーチなど公共の議論に貢献する目的で技術の使用を推奨しています。
8. ElevenLabsはどのような使用を警告していますか？
ElevenLabsは、詐欺、差別、ヘイトスピーチなどの法律に違反する悪用に対してユーザーに警告しています。
定義:
– ディープフェイク: 人工知能を使用して、オリジナルのコンテンツと見分けがつかないような形で、映像や音声などのメディアを作成または操作すること。
– ロボコール: 大量の人々に対して事前に録音されたメッセージを配信する自動化された電話。
関連リンクの提案:
– ElevenLabsウェブサイト
– Pindropウェブサイト
– カーネギーメロン大学
The source of the article is from the blog tvbzorg.com