深層フェイク（deepfakes）とは、不正利用された画像や動画を作るために使われる人工知能アルゴリズムのことで、しばしば性的な内容を生成するために他の人物の身体に特定の人物の顔を変更したり重ね合わせるものです。これらはしばしば個人の同意なしに作成される性的に露骨なコンテンツの制作に使用されます。
被害を受ける女性に対して特に深刻な結果をもたらす深層フェイクに対して、この問題に対処し女性を保護するための取り組みが進められています。
欧州連合は、2024年4月に承認される予定の、女性に対する暴力に関する最初の指令を通じて、この問題に対処する先頭に立っています。この指令の目的は、すべてのEU加盟国で共通の法律セットを確立し、深層フェイクを含むサイバー暴力と戦うことです。
市場の予測によると、深層フェイクの普及率が著しく上昇しており、2019年から2023年の間に分析された深層フェイク動画の数は550％増加しています。これらの操作された動画はAIアルゴリズムを使用して女性を無断で脱がせ、中傷や屈辱を意図的に与え、場合によっては性的な喜びを求めるものです。これらの深層フェイクの作成者は、被害者の写真をソーシャルメディアアカウントやメッセージングアプリなどから入手しています。
深層フェイクの制作を防ぐことは挑戦であり、迅速な行動を取ってその拡散ネットワークを取り除くことが必要です。サイバーセキュリティ対策だけではこの問題に十分に対処できません。深層フェイクの被害者は、現在、自衛のためにEUの一般データ保護規則（GDPR）や国民の名誉に関する法律などの既存の法律に依存しています。
深層フェイクに直面した場合、被害者はスクリーンショットやビデオ録画を使ってコンテンツを記録することが推奨されています。これらはソーシャルメディアプラットフォームや法執行機関に違反内容を報告するための証拠となる可能性があります。さらに、Stop Non-Consensual Abuse of Private Images（StopNCII）などのプラットフォームでは、被害者が自分の画像を報告し、AIテクノロジーを使用して複数のプラットフォームで削除するよう自動的に要求することができます。
深層フェイク犯罪のグローバルな性質に対処するのは大きな課題です。加害者は被害者と異なる国にいる可能性があり、コンテンツをホストするサーバーはまた別の国にあるかもしれません。このため、国際協力が不可欠です。提案された指令がEU内の法律に枠組みを設けている一方で、他の国との協力は、国境を越えるサイバー犯罪に効果的に対処するために不可欠です。
AI技術が急速に進化するにつれて、立法もそれに合わせて発展しなければなりません。提案された指令は重要な一歩ですが、AI技術の進化がもたらす課題に適応するために、将来的には見直しが必要になる可能性があります。この先進的な取り組みは、女性をAIツールの誤用から保護するために不可欠です。
The source of the article is from the blog aovotice.cz