MetaがAI生成画像の検出とラベリングを行い欺瞞を防ぐ

Metaは、Facebook、Instagram、Threadsの親会社であるが、Metaは自社プラットフォーム上のAI生成画像を特定しラベリングする取り組みを進めている。この動きは、Metaが欺瞞に対抗し、他人を意図的に誤導する者を責任に追い込むための一環だ。
現在、MetaのAI生成の逼真な画像は既にそれとわかるようラベル付けされているが、Metaのグローバルアフェア担当社長であるニック・クレッグは最近のブログ投稿で、今後は競合サービス上で作られたAI生成画像にもラベリングを拡大する計画を発表した。

MetaのAI画像は既に起源を示すメタデータと目に見えない透かしを含んでいるが、MetaはGoogle、OpenAI、Microsoft、Adobe、Midjourney、Shutterstockなど他の組織がこれらのマーカーを使用した場合にも、これらのマーカーを検出するツールの開発を進めている。AI生成コンテンツを特定しラベリングすることで、Metaは人間と合成コンテンツの間の境界を曖昧にする問題に対応し、ユーザーが出会う画像の背後にある技術に対して透明性を提供することを目指している。

Metaは今後数カ月以内に、これらのラベルをすべての言語に適用する予定だ。同社は、来年に控える重要な世界的な選挙の間において、この取り組みの重要性を認識している。ただし、現時点ではラベリングは画像に限定されており、AI生成の音声や動画コンテンツにはこれらのマーカーが含まれていないことに留意することが重要だ。

ラベリングに加えて、Metaは重大な公共の欺瞞のリスクが高いデジタル的に加工された画像、動画、または音声により目立つラベルを貼る意向も持っている。さらに、同社はマーカーが欠落しているか削除されている場合でも、AI生成コンテンツを自動的に検出する技術の開発も模索している。

クレッグは、この分野の対立的な性質と、AI生成コンテンツで欺瞞を企む人々に先制するために持続的なイノベーションが必要であることを認識している。米国大統領選挙サイクルで既にAIディープフェイクが登場し、オーストラリアの問題のある画像の加工などの事例が起きていることからも、MetaのAI生成コンテンツの検出とラベリングの取り組みは欺瞞的な慣行に対抗するために重要だ。

Metaは透明性を確保し、ユーザーが出会うコンテンツの性質について情報を提供することで、個人が責任を持ってメディアを利用し、より安全なデジタル環境を創り出すことを目指している。

よくある質問:

Q: Metaは自社プラットフォームで欺瞞に対抗するためにどのような取り組みを行っていますか？
A: Facebook、Instagram、Threadsの親会社であるMetaは、自社プラットフォーム上のAI生成画像を特定しラベリングしています。これは欺瞞的なコンテンツの問題に対応し、他人を意図的に誤導する者を責任に追い込むためのものです。

Q: MetaのAI生成画像は既にラベル付けされていますか？
A: はい、MetaのAI生成の逼真な画像はAIの起源を示すように既にラベル付けされています。

Q: MetaはAI生成画像のラベリングを競合サービスにも拡大するのですか？
A: はい、Metaのグローバルアフェア担当社長であるニック・クレッグによれば、同社はGoogle、OpenAI、Microsoft、Adobe、Midjourney、Shutterstockなど競合サービス上で作られたAI生成画像にもラベリングを拡大する予定です。

Q: MetaのAI画像の起源を示すためにどのようなマーカーが使用されていますか？
A: MetaのAI画像は、メタデータと目に見えない透かしを含んでいます。

Q: Metaは他の組織が使用するAIマーカーを検出するツールの開発を行っていますか？
A: はい、Metaは他の組織が使用するAIの起源を示すマーカーを検出するためのツールの開発を進めています。

Q: MetaがAI生成コンテンツを特定しラベリングする理由は何ですか？
A: Metaは人間と合成コンテンツの間の境界を明確にするため、ユーザーが出会う画像の背後にある技術に対して透明性を提供するために、AI生成コンテンツを特定しラベリングすることを目指しています。

Q: Metaはこれらのラベルをすべての言語で適用する予定ですか？
A: はい、Metaは今後数カ月以内にこれらのラベルをすべての言語で適用する予定です。

Q: AI生成の音声や動画コンテンツにはこれらのラベルが含まれていますか？
A: いいえ、現時点ではラベリングは画像に限定されており、AI生成の音声や動画コンテンツにはこれらのラベルは含まれていません。

Q: ラベリング以外にMetaが行っている取り組みはありますか？
A: Metaは、重大な公共の欺瞞のリスクが高いデジタル的に加工された画像、動画、または音声に目立つラベルを貼る意図も持っています。また、同社はマーカーが欠落しているか削除されている場合でもAI生成コンテンツを検出する技術の開発を模索しています。

Q: MetaがAI生成コンテンツを検出しラベリングする取り組みが重要な理由は何ですか？
A: AIによるディープフェイクや問題のある画像の加工などの事例が起きており、欺瞞的な慣行に対抗する必要性が浮き彫りになっています。MetaはAI生成コンテンツを検出しラベリングすることで、より安全なデジタル環境の創造を目指しています。

Q: Metaはどのように安全なデジタル環境を創り出す計画ですか？
A: Metaは透明性を確保し、ユーザーが出会うコンテンツの性質について情報を提供することで、個人が責任を持ってメディアを利用し、より安全なデジタル環境を創り出すことを目指しています。

定義:

1. AI生成画像：人間ではなく人工知能によって生成される画像。
2. メタデータ：ファイルに関する詳細情報を含む、その起源、作成者、内容などの記述的な情報。
3. 目に見えない透かし：メディアファイルに埋め込まれ、起源を特定したり、無許可の使用履歴を追跡するために使用されるデジタルなマーカー。