慈善団体のインターネット監視財団が警告を発出
児童虐待に対抗することを使命とする慈善団体であるインターネット監視財団（IWF）は、AIを活用して児童搾取計画のためにポルノグラフィックなコンテンツを作成する捕食者の増加傾向に関して警告を発しています。
ダークウェブで見つかった過激なガイド
英国の新聞ザ・ガーディアンによると、IWFはインターネットの暗い場所で発見したガイドブックを発見しました。このガイドには、犯罪者にAIソフトウェアを使用して子供たちのデジタル的な露出を促す指示が含まれています。目的は、これらの画像を使用して未成年者に自らより露骨なコンテンツを送らせることです。
英国の国家犯罪捜査局に通報
IWFが発見した後、警告のガイドをすぐに英国の国家犯罪捜査局に送付し、さらなる対策を取るよう促しました。
AIの悪用による非同意コンテンツの生成
このAIの悪用は、個々の被害者に影響を及ぼすだけでなく、セレブであるテイラー・スウィフトを巡るディープフェイクスキャンダルのような高プロファイルの事例でも見られます。Meta（FacebookおよびInstagram）の監督委員会は、AIによって作成された露骨なコンテンツがどのように管理されるかを現在評価しており、一部は公共的な人物の非同意ポルノグラフィック画像に焦点を当てています。
Metaの即時対応
Metaは、特定の2つのケースで、最初にインドとアメリカの公共人物の画像を削除しなかったことで批判に直面しました。これらの画像は最終的にハラスメントといじめの方針に違反しているとしてプラットフォームから削除されました。これは、積極的な対応システムの作業を示していますが、それまでにコミュニティや支持者の間でかなりの論争と苦難を引き起こしました。
…