Meta Platformsは、FacebookとInstagramの親会社であるMeta Platformsは、他社が提供する人工知能（AI）サービスによって生成された画像を検出し、ラベルを付ける予定を発表しました。この会社は、画像ファイルに埋め込まれた目に見えないマーカーを使用して、実際の写真とデジタルで作成されたコンテンツとを区別します。このラベリングシステムは、マーカーを持つコンテンツで共有されるすべてのコンテンツに適用されます。
このラベリングシステムの導入は、生成AI技術によって生み出される誤解や偽情報の問題に対処するための取り組みです。これらの技術は、単純なプロンプトに応えて現実的な画像を作成する能力を持っており、誤用による潜在的な損害の懸念があります。メタのラベリングイニシアチブは、生成AIのネガティブな影響を軽減するために、テック業界内で広がる大きな動きの一環です。
メタのグローバルアフェアーズ担当副社長であるニック・クレッグ氏は、AI生成画像に対して信頼性のあるラベルを付ける能力に自信を表明しました。しかし、オーディオやビデオコンテンツに対して同様のツールを開発することの複雑さを認めています。オーディオとビデオのマーキング技術はまだ十分に成熟していないため、メタは改ざんされたオーディオとビデオコンテンツについては個人にラベル付けを義務付ける計画を立てています。
メタのラベリングイニシアティブは、現在のところ、ChatGPTなどのAIツールで生成されたテキストには及んでいません。クレッグ氏は、そのようなコンテンツに対してラベル付けするための実用的なメカニズムは現在存在しないと述べています。また、メタは自社の暗号化メッセージングサービスWhatsAppで共有される生成AIコンテンツにラベルを適用するかどうかは明確ではありません。
メタがその独立した監視委員会から誤解を招く改ざんビデオのポリシーについての検証を受けたことで、クレッグ氏は改善策の必要性を認めました。委員会は、そのようなコンテンツを削除するのではなくラベル付けすることを推奨しました。クレッグ氏もこの評価に同意し、合成やハイブリッドコンテンツの存在が増えていることを考えると、メタの既存のポリシーは適切でなくなったと述べました。メタは他のテクノロジー企業とのラベリングパートナーシップを確立することで、これらの懸念に対処する意欲を示しています。
まとめとして、メタプラットフォームがAI生成画像にラベルを付けるという決定は、デマ情報に対抗し、プラットフォーム上での透明性を向上させる重要な一歩です。テック業界は、生成AI技術がもたらす課題に取り組みながら、このようなラベリングイニシアティブなどの協力的な取り組みが責任あるAIの使用を形作る上で重要です。
よくある質問セクション：
Q: メタプラットフォームとは何ですか？
A: メタプラットフォームはFacebookとInstagramの親会社です。
Q: メタの人工知能（AI）生成画像に関する計画は何ですか？
A: メタは他社が提供するAIサービスによって生成された画像を検出し、ラベルを付ける予定です。目に見えないマーカーを画像ファイルに使用して、実際の写真とデジタルで作成されたコンテンツを区別します。
Q: メタがこのラベリングシステムを導入する理由は何ですか？
A: メタは生成AI技術によって生み出される誤解や偽情報の問題に取り組むことを目指しています。
Q: 生成AI技術によって引き起こされる懸念事項は何ですか？
A: 生成AI技術はプロンプトや例に基づいて新しいコンテンツ（画像、音声、ビデオなど）を作成する能力を持っており、誤用による潜在的な損害の懸念があります。
Q: メタは自社の能力に自信を持ってAI生成画像にラベルを付けることができるのですか？
A: はい、メタのグローバルアフェアーズ担当副社長であるニック・クレッグ氏は、会社がAI生成画像に信頼性のあるラベルを付ける能力に自信を持っています。
Q: ラベリングシステムはオーディオやビデオコンテンツにも拡張されますか？
A: 現在、オーディオとビデオのマーキング技術はまだ十分に成熟していません。メタは個人に改ざんされたオーディオとビデオコンテンツをラベル付けするよう要求する予定ですが、自動的にラベル付けするツールはありません。
Q: メタはWhatsAppで共有される生成AIコンテンツにラベルを付けますか？
A: メタがWhatsAppで共有される生成AIコンテンツにラベルを付けるかどうかは明確ではありません。
Q: メタがラベリングイニシアチブを実施する理由は何ですか？
A: メタは改ざんされたビデオのポリシーについての検証を受け、改善策の必要性を認識しました。メタの独立した監視委員会は、そのようなコンテンツを削除するのではなくラベル付けすることを推奨し、メタはこの評価に同意しました。
主な用語／ジャーゴン：
– 人工知能（AI）: 機械による人間の知能プロセスのシミュレーションであり、学習、推論、自己修正の能力を含むことが一般的です。
– 生成AI: プロンプトや例に基づいて画像、音声、ビデオなどの新しいコンテンツを作成することができるAI技術です。
– 誤解情報: 視聴者を欺いたり操作するために虚偽または歪んだ現実を提示するコンテンツのことです。
– ラベリングシステム: コンテンツにマーカーやタグを割り当てて、追加情報や文脈を提供するシステムです。
関連リンクの提案：
– メタ
– Facebook
– Instagram
The source of the article is from the blog elektrischnederland.nl