5月9日、透明性を高める大規模な動きの一環として、TikTokはアプリ内で人工知能（AI）を使用して作成された画像と動画にラベルを付ける取り組みを発表しました。AIによって生成されたコンテンツは、今後、ビューアーに原点を明確にするために明示的なラベルが付けられるようになります。この変更は、アプリ外で作成されたコンテンツにも拡張され、トラッキングのためにデジタルウォーターマーキング機能を活用します。
ショートフォームビデオコンテンツで有名なプラットフォームであるTikTokは、ユーザーの安全性と信頼性を向上させるために、AIで生成された投稿にマークを付けています。この決定は、ラベルがないまま本物そっくりな内容を模倣する誤解を招くコンテンツと戦うことを目的としています。
TikTokのビジネス、信頼性、セキュリティ部門の責任者であるアダム・プレッサーは、インタビューで、プラットフォームがラベルがないAIコンテンツに厳格なガイドラインを設けており、それらのルールに違反する投稿は適切にタグ付けされていない場合は、TikTokのコミュニティガイドラインに違反するため削除されると共有しました。
TikTokによるこの方針の導入は、高度なコンテンツ作成ツールの時代において、ユーザーの認識の重要性を強調し、デジタルプラットフォームで信頼と誠実さが育まれることを確約しています。
TikTokにおけるAIラベリングの関連利点:
– ユーザーの認識: AIタグを導入することで、ユーザーは本物のユーザー生成コンテンツとAIで生成されたコンテンツを簡単に区別でき、消費する情報の透明性が向上します。
– プラットフォームの信頼性: ラベリングシステムは、フェイクや誤解を引き起こすコンテンツと戦うことで、プラットフォームの信頼性を維持するのに役立ちます。特にディープフェイクや合成メディアが増加している時代には特に重要です。
– 安全性と信頼性: AIで生成されたコンテンツのラベリングは、プラットフォームが潜在的な誤情報に対処するために積極的な措置を取っていることを示すことで、ユーザーベースとの信頼関係を築くのに役立ちます。
AIラベリングに関連した主な課題や論争点:
– 施行: AIで生成されたコンテンツが正確に識別およびラベル付けされることを確認することは、多大なリソースと高度な検知技術が必要となるため、大きな課題となります。
– 回避戦術: 誤情報を広めたいとする者が検出を回避しようとする試みがあるため、悪意のある行為者とプラットフォームの取り締まりとの間で継続的な戦いが続きます。
– AIコンテンツの定義: AIがより洗練されるにつれ、何をAIで生成されたコンテンツとしてラベル付けすべきか、また何をラベル付けすべきでないかを区別することは複雑かつ論争的になる可能性があります。
TikTokにおけるAIラベリングの欠点:
– 誤検出と誤判定: AIシステムは間違いを commitしうるため、誤ったラベリングやAIで生成されたコンテンツの見逃しにつながる可能性があり、ユーザーを不必要に警戒させるか、誤解を招くことがあります。
– ユーザーエクスペリエンス: 一部のユーザーは、ラベリングが常駐することによってプラットフォームの没入型体験に悪影響を及ぼす可能性があり、コンテンツの参加度に影響を及ぼすかもしれません。
– 誤解: AIタグの存在によって、ユーザーがラベルの意味を明確に理解していない場合、無害または創造的に適切なコンテンツに対する誤解や根拠のない不信感を招く可能性があります。
ソーシャルメディアプラットフォームにおけるAIの影響に関する詳細な情報は、以下のリンクを参照してください:
TikTokなどのプラットフォームからのポリシーアップデートと、AI関連の展開や懸念が続く中、このトピックはダイナミックかつ多面的であることを理解することが重要です。