AI 技術によって現実と区別がつかない画像を作成することが進む中、Meta Platforms が資金提供する独立した監督委員会がポルノグラフィックなディープフェイクに関する懸念に取り組んでいます。この委員会は、ソーシャルメディア大手 Facebook と Instagram の親会社に資金提供されていますが、Meta の方針の効果や AI 生成コンテンツに対する強制力を評価するために独自に運営しています。
ディープフェイクに描かれた個人や事例の詳細や身元を公開せず、更なる被害を防ぐために、委員会は審査中の 2 つの具体的事例の説明を提供しました。これには、有名な女性の肖像画が許可なく使用され、一般と規制当局の憤りを引き起こし、有害なディープフェイクの製作者と配布業者に対して厳しい法的措置を求める緊急の要請がもたらされた悪名高い事件が含まれています。
特に問題となった事件の 1 つには、著名なアメリカのポップスターの画像が流出し、急速なプラットフォームの措置が行われてアーティストの名前の検索を防ぐことが含まれており、これは企業がこれらの違反を抑制する際に直面する課題を強調しています。
Meta Platforms は、5 月からネットワーク全体で AI 生成コンテンツのラベリングを導入する予定であり、リスクを緩和し、ユーザーと政府の安心感を高める取り組みです。このラベリングのイニシアチブにより、AI が作成または変更したビデオ、音声、および画像に “AI により作成” のタグが付けられ、その人工的な起源を明確にし、プラットフォーム利用者の見分けに役立ちます。
特に選挙年などの政治的に敏感な時期に誤解を招く AI アプリケーションの厄介な風景を航行する一方で、Meta のポリシーコンテンツ担当チーフは、監督委員会の懸念に対して透明性と警戒的なコンテンツ監督を重視する必要性を認識しています。高リスクの誤解を招くコンテンツに対する今後のラベルは、洗練された AI 技術の誤用に対する戦いにおいて前進する一歩となっています。
The source of the article is from the blog elblog.pl