Metaの監督委員会はAIによって生成された露骨なコンテンツの取り扱いを精査
ポルノグラフィックなディープフェイクの増加は、Metaの監督委員会がFacebookとInstagram全体でそのようなコンテンツがどのように管理されているかを調査するきっかけとなりました。この形式の合成メディアは、人工知能を使用して、しばしば女性を困難な状況で描写します。
委員会は2つの注目すべきインスタンスを詳しく調査しています。1つ目は、アメリカの公人物の露骨なコンテンツで生成された画像であり、2つ目は、主にそのようなメディアを広めているアカウントによって共有されたインドの女性のヌードAI生成画像を含んでいます。Metaの内部システムが元々両方の投稿を削除しましたが、両方の復活のために監督委員会に控訴が提出されました。
オンライン性的嫌がらせの背景に対するMetaのコンテンツポリシーの評価
今後の懸念が高まっている中で、ポルノグラフィックなディープフェイクが男女差別的な嫌がらせや脅迫の手段としてますます広まっている状況について、この評価はそのビジュアルがMetaのコンテンツガイドラインに沿っているかどうかを決定します。監督委員会の共同議長であるHelle Thorning-Schmidtは、この深刻な問題に取り組むためにMetaのポリシーと執行慣行に厳格な評価が必要であると述べています。
監督委員会の発足と権限
2020年に設立された監督委員会は、法律専門家や学者からなり、Metaのコンテンツモデレーション慣行に関する助言を提供しています。その提言は拘束力はありませんが、Metaは過去の重要なモデレーション事例を通じて、監督委員会の指針を検討してきました。それらの事例には、前アメリカ大統領ドナルド・トランプのアカウントを制限することが含まれます。
最近の出来事では、委員会がジョー・バイデン氏が孫娘に不適切に触れていると描かれたAIで編集されたビデオを審査し、Metaが全てのAI生成コンテンツをプラットフォーム上でラベル付けすることを決定しました。この決定は、監督委員会の影響力とMetaがAIの力とユーザーの権利と安全性の保護をバランスさせるための取り組みを強調しています。
ディープフェイクが重大な倫理的および規制上の課題を提起
監督委員会がポルノグラフィックなディープフェイクの影響に向き合う中で、このメディアコンテンツの技術的な操縦は同意とプライバシー侵害を含む倫理的な懸念を提起します。個人の同意なしにポルノグラフィでディープフェイクを利用することは、性的嫌がらせの問題を悪化させ、性別に基づく暴力形態となり得ます。
The source of the article is from the blog jomfruland.net