人工知能が進化し続ける中、その倫理的な使用を確保するための取り組みも進化しています。Googleは、2024年のI/Oイベントで新しいデジタル透かし技術であるSynthIDを発表しました。このSynthID技術は、GoogleのAIツールによって作成された動画やテキストに目に見えない透かしを埋め込むように設計されており、AIによるコンテンツの信頼性と透明性を向上させることを目的としています。
デマの防止とAIアプリケーションの透明性向上を目指して、SynthIDは、Googleのスイートを使ったAIツールを利用して生成されたすべてのコンテンツに影響を与えます。たとえば、Googleの最新モデルVeoによって制作された動画は、VideoFXアプリで表示され、人間の目には見えないが、自動検出ツールによって認識されるデジタルウォーターマークが表示されます。動画だけでなく、SynthIDはGoogleの別のAIツールであるGeminiによって生成されたテキストにも拡張され、すべてのコンテンツがAI起源に追跡可能であることを確認します。
SynthIDは以前、AIによって生成された画像用に発表されており、これらのデジタルウォーターマークはAIによるコンテンツと人間によるコンテンツを区別する上で重要です。AIがリアルな動画やテキストをより巧妙に作成するようになるにつれて、これらのウォーターマークは責任を高め、偽情報の拡散に対抗する上で重要な一歩となっています。
ただし、Googleだけがこの方向への取り組みを行っているわけではありません。OpenAI、TikTok、Metaなどの他のテックジャイアンツも、プラットフォームのコンテンツ追跡性を向上させるために同様の機能を模索しています。
ウォーターマークがデマ対策として単独で有効かどうかは議論の的となっており、懐疑論者はこれらの手法を無視できると主張していますが、Googleの取り組みは責任あるAI利用に向けた重要な一歩を示しています。テックコミュニティは、このデジタルコンテンツ検証の進化する状況を引き続き観察し、貢献しています。