YouTubeは、真実の犯罪コンテンツとして死亡した子供のAI映像を作成することは許されないと明確に記述するために方針を更新することを余儀なくされました。この変更は、TikTokを含むソーシャルメディアプラットフォームで公開され、実際の子供の殺人被害者が自らの惨劇的な死を語るAIで作成された映像が出回った後になされました。
これらの映像は数百万回再生され、広範な注目と憤りを引き起こしました。YouTubeの更新された方針は、2021年1月16日に施行され、死亡した未成年者や有名な暴力事件の被害者の死や経験した暴力を現実的にシミュレートするコンテンツに対してストライクが与えられることになります。
TikTokは既にこの種のコンテンツに対処するための方針を設けており、18歳未満の個人や非公共の人物のAIによる映像やディープフェイクにはラベルが必要であり、禁止されています。それに対して、YouTubeはこのような過激なコンテンツがプラットフォーム上で拡散されることを許しているとして批判を浴びています。
これらの映像は視聴者にとって深い不快感を引き起こすだけでなく、生存者にも莫大な痛みをもたらします。1993年に誘拐され殺害されたジェームズ・バルジャーの母であるデニス・ファーガスは、インタビューで彼女の子供を特集したAI映像を「病的すぎる」、「死んだ子供を蘇らせる」と表現しています。
このような不穏なAI映像の台頭は、インターネットの暗い面を反映するだけでなく、コンテンツクリエーターが私たちの注意を悪用するため、どんなに堕落したまたは不快な内容であっても励まされるシステムの欠陥を浮き彫りにしています。
YouTubeのようなプラットフォームがコンテンツのモデレーションや利用者の安全と福祉を確保する難題に取り組み続ける中で、これらの方針更新がこのような過激な映像の拡散と戦う効果的な手段となるか、将来的にはより厳格な措置が必要となるかはこれからの展開に注目が集まるでしょう。
The source of the article is from the blog elperiodicodearanjuez.es