メタ、合成メディアを識別するための「Made with AI」タグを導入
メタは、この月にFacebookとInstagramのプラットフォーム上でデマを抑制するため、「Made with AI」のラベルをビデオ、画像、音声に導入することで積極的な措置を講じています。ユーザーがラベルのないコンテンツを自動的に本物と見なし始めると、このアプローチは仮想的に失敗する可能性があります。
WhatsAppがデマの拡散に果たす役割
同社はWhatsAppにも注力し、以前にはテキストベースのデマが広まったプラットフォームです。2018年、ブラジルでは、ワーカーズ・パーティのフェルナンド・アダドを標的としたデマ情報が拡散されました。後に大統領に就任したジャイル・ボルソナーロの支持者たちが、これらの大規模な標的作戦を資金提供したと報道されています。
プラットフォーム間でのコンテンツポリシーの調和
Metaは、AIツールによって助長されることがあるこのような事件の再発に対処するため、WhatsAppのコンテンツポリシーをInstagramとFacebookと調和させることで、より良く闘いを挑むことができます。具体的には、これらの調和により、投票行為を妨げるコンテンツを禁止することが含まれます。WhatsAppの現行の規則では「意図的な誤解を招くコンテンツ」や「違法活動」が広く禁止されており、解釈の余地が残されています。
積極的な介入の強化
より明確なコンテンツポリシーは、MetaがWhatsApp上の偽のメッセージに対処し、ローソンによると、積極的な介入にとって重要な、AIツールを通じてより多くの権限を与えるでしょう。企業がこの必要性を信じていなければ、FacebookやInstagramでの投票への干渉に対する具体的なポリシーを持っていないでしょう。
AIによるデマの課題
AIツールがますます一般化し複雑化する中、その影響の決定的な証拠を見つけることは珍しくなりました。インターネットがコンテンツで溢れかえっているため、信号よりもノイズが多い状況に備えなければなりません。その結果、テック企業や公的機関は、選挙に対するAIの明確な「集団的影響」の欠如に満足することではなく、非常に慎重であるべきです。
主な質問と回答：
– なぜメタは「Made with AI」のタグを導入していますか？
メタは、合成メディア（ディープフェイクなど）を明確にラベル付けすることでデマと戦う取り組みの一環として、このタグを導入しています。これにより、ユーザーにメディアの性質を知らせることができます。
– WhatsAppでのデマの拡散はどのように行われますか？
WhatsAppは大規模なグループに簡単に転送できるメッセージを許可しているため、デマが拡散されやすい環境となっています。これにより、情報が検証されずに急速に拡散される可能性があります。
– プラットフォーム間のコンテンツポリシーの調和の重要性は何ですか？
メタは、傘下の異なるプラットフォーム間でコンテンツポリシーを調和させることで、デマ、投票の妨害、違法行為に対する一貫した姿勢を提供しようとしています。これにより、ユーザーに対する期待を明確にし、より効果的な取り締まりを可能にします。
– AIによるデマがもたらす課題は何ですか？
AIによるデマの課題は、高度にリアルで検出が困難なことが挙げられます。AI技術が発展するにつれ、そのようなコンテンツの検出とモデレーションはますます複雑になります。
主な課題や論争：
自由な表現とデマの拡散防止のバランスを保つことは大きな課題です。また、”Made with AI”のラベルのないコンテンツをすべて信頼するという誤解が生じる恐れがあり、これは正当な目的のためにAIを使用するクリエイターに影響を与える可能性があります。さらに、デマはさまざまな形を取ることができ、AIの検出は万全ではなく、常に更新と改善が必要です。
これらのポリシーの実施には、特にWhatsAppのようなエンドツーエンドの暗号化されたプラットフォームでのプライバシーに関する懸念が生じることが多い。
利点と欠点：
利点：
– AIで生成されたコンテンツを明確に示すことにより、透明性を提供します。
– ユーザーにメディアを批判的に見るよう促します。
– ポリシーの調和は、異なるMetaプラットフォーム間でのデマへの一貫したアプローチを提供します。
欠点：
– ユーザーがラベルのないコンテンツを本物と誤解する可能性があり、偽の信頼を生む恐れがあります。
– このタグは、AIを正当な目的で使用しているクリエイターに影響を及ぼす可能性があります。
– このようなポリシーの実施は、WhatsAppなどの暗号化されたメッセージングサービスにおけるプライバシーに関する懸念を引き起こす可能性があります。
関連リンク：
デマやコンテンツポリシーに関するメタの取り組みや見解について詳しく知るには、Meta Newsroom およびWhatsAppのメインウェブサイトをご覧ください。URLの有効性を確認し、信頼できる情報源のみを使用してください。