TikTokがAIによって生成されたコンテンツにラベルを付ける対策を強化
デジタルコンテンツの信頼性を向上させるため、TikTokは、人工知能（AI）を使用して作成された画像やビデオにデジタルウォーターマークを使用し、透明性を強化する方針を打ち出しています。この取り組みは、AIによって生成されたコンテンツが米国の選挙を乱す可能性について専門家からの懸念が出ている中で行われています。
これらの懸念を認識し、TikTokは、アプリ独自のツールによって作成されたAIコンテンツだけでなく、外部で生成されたコンテンツもラベル付けする範囲を拡大することを計画しています。TikTokの運営と信頼安全を管理するAdam Presser氏は、プラットフォーム上で適切なラベル付けがされていない実物そっくりのAIコンテンツを削除することにコミュニティのガイドラインに違反するため、同社はその取り組みに取り組むことを明言しています。
Content Credentialsと呼ばれるウォーターマーキング技術は、AdobeやMicrosoftなどの主要業界関係者に支持されているCoalition for Content Provenance and Authenticityから発展したものです。AIシステムChatGPTの開発元であるOpenAIはこの標準を利用しており、YouTubeやInstagram、Facebookの親会社であるMeta Platformsなどの他のテクノロジージャイアントもContent Credentialsを採用する意向を示しています。
システムが効果を上げるためには、AIツールの開発者や共有プラットフォームが業界標準を使用することに同意しなければなりません。たとえば、OpenAIの画像生成ツールであるDALL-Eは、生成された画像にデジタルウォーターマークとメタデータを追加します。そのような画像がTikTokにアップロードされると、プラットフォームはそれらを自動的にAIに生成されたものとしてタグ付けします。
米国の新たな立法によって潜在的な売却の可能性がある中国企業バイトダンス所有のTikTokは、ファースト・アメンドメント権を引用しながら、裁判でこの問題に異議を申し立てています。
重要な質問と回答：
TikTokはデジタルウォーターマークをどのように活用する予定ですか？
TikTokは、AIを使用して作成された画像やビデオにデジタルウォーターマークを活用する計画を立てています。これは、TikTokのツールによって内部で生成されたコンテンツだけでなく、外部で作成されたがTikTokで共有されたコンテンツにも該当します。
Content Credentialsとは何ですか？
Content Credentialsは、Coalition for Content Provenance and Authenticityから発展したウォーターマーキング技術の一部です。デジタルコンテンツの起源と完全性を証明するために使用されます。
Content Provenance and Authenticity Coalitionとは何ですか？
Content Provenance and Authenticity Coalitionは、AdobeやMicrosoftなどの主要業界関係者に支持されるイニシアチブであり、ディスインフォメーションと戦うためのコンテンツ起源の標準を確立することに焦点を当てています。
TikTokの取り組みがなぜ重要なのですか？
TikTokの取り組みは、特に米国の選挙などの重要な時期においてAIによって生成されたコンテンツがディスインフォメーションキャンペーンに使用される可能性についての懸念が高まる中で、デジタル領域における透明性向上への一歩を反映しているため重要です。
主な課題や論争点：
Content Credentials標準の広範な業界採用を実現すること、特にさまざまなAIツール開発者や共有プラットフォームの間での課題があります。さらに、AIに生成されたコンテンツの適切なラベル付けの実施は技術的に複雑であること、また、TikTokが中国企業バイトダンスによって所有されており米国で潜在的なセキュリティリスクの議論が進行しており、売却の検討がなされている状況についての論争もあります。
利点と欠点：
利点：
– 消費者がAIによって生成されたコンテンツをより正確に識別できるため、透明性が向上します。
– 特に選挙期などの重要な時期に、ディスインフォメーションの拡散を防ぐのに役立ちます。
– コンテンツの作成者やプラットフォームに責任感と倫理的な実践を促します。
欠点：
– AIによって生成されたコンテンツを不必要に目立たせ、デジタルコンテンツへの信頼を損なう可能性があります。
– 技術が完全ではないため、誤検出や誤検出が発生する可能性があります。
– これを創造性の侵害と見なす作成者からの抵抗があるかもしれません。
関連リンクの提案：
TikTokについてさらに探るには、公式ウェブサイトであるTikTokを訪れてみることを検討してみてください。Content Credentials技術やコンテンツ起源に関する産業協力についての詳細情報を求める場合は、AdobeやMicrosoftなどの連合支持者の公式ページが役立つかもしれません。OpenAIの公式サイトでAIコンテンツ生成とその影響について理解を深めることもできます。