ウォーターマーキング技術はインターネット上のAI誤情報の増加問題に対する解決策として謳われてきました。しかし、専門家やNBC Newsのレビューによると、現行のウォーターマーキング方法は効果的とは言いがたいとされています。MetaやAdobeなどの企業がウォーターマーキングの標準に署名しているものの、結果は芳しくありません。
ウォーターマーキングの主な課題の1つはバイパスされやすいという点にあります。現代のウォーターマーキング技術は通常、画像のメタデータに不可視のタグと画像の上に重ねられた目に見えるラベルの2つのコンポーネントに依存しています。残念ながら、不可視のウォーターマークと目に見えるラベルは、スクリーンショットやクロッピングなどの簡単な方法で取り除くことができます。
もう1つの問題は、主要なソーシャルメディアおよびテクノロジー企業がAIによる生成または編集されたコンテンツにラベルを強制していないことです。この厳格な指示の欠如により、ウォーターマーキングの努力の影響が制限されています。たとえば、MetaのCEOであるマーク・ザッカーバーグがAIによって生成された画像でFacebookのカバー写真を更新したとき、そのAI起源を示すラベルは、ユーザーが画像をクリックしない限り見えませんでした。これは現行のウォーターマーキング技術の不備を示しています。
Metaはこの問題に対処するために、AIによって生成されたコンテンツをウォーターマーキング技術で識別し、Facebook、Instagram、Threadsなどのプラットフォームでそのようなコンテンツにラベルを付ける計画を2022年2月に発表しました。ただし、Meta自体もウォーターマーキングが完全防水でなく、簡単に操作できることを認識しています。同社は将来的により厳格な標準を導入し、ユーザーにAIによって生成されたコンテンツを開示することを求め、違反に対する罰則を科す予定です。
ウォーターマーキングラベルの可視性も課題となっています。目に見えるウォーターマークを取り除くのは数秒で可能であり、それらが提供するセキュリティを妨げます。これは、ウォーターマーキングが真正なコンテンツを検証し、AIによって生成されたメディアを正確に特定する際の信頼性についての懸念を引き起こします。
さらに、Meta、Google、Microsoft、Adobeなどの主要なテクノロジープレーヤーが協力してウォーターマーキング標準を採用しようと努めているにもかかわらず、これらの標準に従っていないダウンロード可能なAIモデルが数千存在しています。これにより、AI誤情報に効果的に対処するための大きなギャップが生まれています。
ウォーターマーキングの限界は、ディープフェイクの登場を考慮すると特に明確になります。ディープフェイクはしばしば個人を標的とし、同意を得ることなく画像や動画を操作するAI生成メディアです。ウォーターマーキング単体では、ディープフェイクが引き起こす複雑さや倫理的な課題に十分対処することはできません。
ディープフェイクが詐欺、政治的な誤情報、プライバシーの侵害に使用され続ける中、AI生成メディアの問題に対処するためには、進化した技術、厳格な規制、そして一般の認識が必要となります。
よくある質問
AI誤情報の文脈でのウォーターマーキングとは何ですか？
ウォーターマーキングとは、AIによって生成されたメディアに不可視のタグや目に見えるラベルを埋め込むプロセスを指します。これにより、AIによって生成されたコンテンツの存在を一般に知らせ、その誤用を防ぐことを目的としています。
AI誤情報に対処するためのウォーターマーキングの効果はどの程度ですか？
現在のウォーターマーキング方法には限界と脆弱性があります。スクリーンショットやクロッピングなどの方法によって簡単に回避されることがあります。また、主要なテクノロジー企業もAIによって生成されたコンテンツにラベルを強制していないことから、ウォーターマーキングの努力の影響が薄れています。
ウォーターマーキングラベルは削除可能ですか？
はい、目に見えるウォーターマーキングラベルは簡単に削除できます。多くの場合、数秒で削除されます。これは、真正なコンテンツを検証し、AIによって生成されたメディアを正確に特定する際のウォーターマーキングの信頼性や効果について懸念を引き起こします。
ウォーターマーキングがディープフェイク関連の問題の唯一の解決策ですか？
ウォーターマーキング単体では、ディープフェイクが引き起こす複雑さや課題に十分対処することはできません。ディープフェイクは、効果的に誤用を防ぐために進化した技術や厳格な規制、一般の認識を組み合わせた包括的なアプローチが必要です。
ウォーターマーキング技術は、インターネット上のAI誤情報の増加問題に対する潜在的な解決策として注目されています。しかし、専門家やNBC Newsによるレビューによると、現在のウォーターマーキング方法には重要な制限があり、最初に期待されたほど効果的ではありません。
The source of the article is from the blog reporterosdelsur.com.mx