技術企業はAIが選挙ディスインフォメーションを抑制するのに苦労しています
最近の研究によると、ほとんどの技術企業はプラットフォームを更新して、誤情報の拡散を防ぐための対策をいまだに不十分なままにしています。ヨーロッパで広く使われているAIチャットボットは選挙に関する虚偽情報を意図的に流布しており、プラットフォーム改革の緊急性を浮き彫りにします。
AIチャットボットの選挙の信頼性における役割
デモクラシーリポーティング・インターナショナル（DRI）は、Google Gemini、OpenAIのChatGPT4、ChatGPT4-o、MicrosoftのCopilotなどのチャットボットが選挙に関連する問い合わせにどのように応答するかを分析しました。5月22日から24日の間に、研究者はこれらのボットに10か国のEU言語で選挙プロセスに関する質問をしました。調査結果では、多くの回答が部分的または完全に不正確であることが明らかになりました。
例えば、GoogleのGeminiは、試験された言語すべてで選挙に関連する問い合わせに回答を拒否し、これは誤情報の拡散を避けるための責任あるアプローチと報告されています。一方、MicrosoftのCopilotは時折応答しないことがある場合があり、特に英語やポルトガル語では利用者を信頼できる情報を求めて検索エンジンBingに誘導します。
ディスインフォメーションへの不十分な対応
このフォローアップ研究は、4月に行われたDRIの以前の報告の延長であり、チャットボットが標準的な選挙に関する質問に「信頼できる答えを提供できなかった」と結論したものです。DRIのエグゼクティブディレクター、ミヒャエル＝マイヤー・レゼンデ氏は、オンラインで簡単に入手できない情報の場合、チャットボットは回答を捏造する傾向があると指摘しました。
言語ごとの異なる反応
他のEU言語では、MicrosoftのCopilotは「何時になく一貫したパターン」でどのように応答を試みるか、または控えるかを選ぶと述べられ、これは「幻覚」を制限する試みだが、全ての言語に均等に適用されているわけではないことを示唆しています。研究者が応答した場合、約3分の1がある程度不正確であると記録されました。
マイクロソフトの取り組みとOpenAIへの求められる行動
マイクロソフトは以前、Euronews Nextに選挙セキュリティイニシアティブを提案し、Bingでの「公的な選挙情報」の提供を含めています。しかし、この研究はOpenAIに対して「すぐに再トレーニング」するよう要求し、OpenAIはプラットフォーム上の選挙に関連するコンテンツの正確性を向上させることにコミットしています。
この研究は、AIチャットボット開発者が選挙ディスインフォメーションの拡散とこれらのますます影響力のあるデジタルアシスタントの信頼性を向上させるために積極的な取り組みが必要であることを強調しています。
AIが推進する選挙ディスインフォメーションの課題と論争
AIが推進する選挙ディスインフォメーションを取り組む主な課題の1つは、AIモデルが一貫して正確で信頼性のある情報を提供する能力にあります。誤情報の拡散は選挙プロセスの信頼性を損ない、有権者を誤解させる可能性があります。また、AIチャットボットは、構築されているデータやアルゴリズムが持つ固有のバイアスや制約を持っており、これらのチャットボットが最新かつ検証済みの情報にアクセスし、捏造された回答の作成を避けるようプログラムされていることを保証することが重要です。
論争の焦点はしばしば、デマを制御することと言論の自由を保護することとのバランスです。特に選挙に関するデマの拡散を防ぐことは非常に重要ですが、取られる措置が厳しすぎると、合法的な議論が抑圧されるリスクがあります。
AIチャットボットによる誤情報の拡散に貢献する要因の1つは、欧州連合の多言語性です。言語間の微妙な違いや文脈の大きなばらつきは、AIがローカライズされたコンテンツを正確にナビゲートし理解するのを難しくしています。
選挙におけるAIチャットボットの利点と欠点
選挙でのAIチャットボットの利用には、いくつかの利点があります。これには、利用者への迅速でアクセスしやすい情報提供が含まれ、これにより選挙プロセスへの参加が促進されます。
利点:
– 一般の人々に迅速で便利な情報アクセスを提供する。
– AIチャットボットは、選挙などの高い需要期間中など、大量のクエリを同時に処理できるため、非常に役立ちます。
– 頻繁にライせいされる質問に自動的に回答することで、人間スタッフの作業量を削減できる可能性があります。
欠点:
– AIチャットボットは、適切に監視されたりプログラムされていない場合、誤情報を広める可能性があり、一般の混乱や選挙プロセスへの不信感を招く可能性があります。
– 複雑で微妙な質問を理解する能力が欠けていたり、コンテクストに特化した回答を提供できない可能性があります。
– ハッカーや悪意のある行為者が、チャットボットのアルゴリズムの脆弱性を悪用して故意に偽情報を広めるリスクがあります。
関連情報については、読者は次の組織の公式ウェブサイトを訪れることでさらなる洞察を得ることができます：
– Democracy Reporting International（DRI）
– OpenAI
– Microsoft
– AIや技術に関する一般的な更新情報に興味を持つ読者は、次のような主要ニュースサイトの科学および技術セクションにアクセスすることも興味を持つかもしれません：
– BBC
– Euronews