最近の研究は、人気のある欧州のAIチャットボットが欧州議会選挙の選挙プロセスに関する情報の信頼性について警告を発しました。民主主義報告国際機関（DRI）の研究者たちは、海外の有権者向けの登録、郵送投票手続き、および選挙結果の発表時期などの投票手続きに関する具体的な質問をいくつかの有名なチャットボットに対して行いました。
この研究は、5月22日から24日まで行われ、さまざまなAIプラットフォームで非応答や誤情報が発生しました。 たとえば、Googleのジェミニは、すべてのテストされた言語での問い合わせに対して情報提供を避けることを選択したと報告されています。これは、ユーザーが正確なデータを代替情報源から求めると見なされ、誤情報の拡散を避ける慎重なアプローチと解釈されました。
MicrosoftのCopilotは、英語とポルトガル語を含む特定の質問に対しても回答を拒否し、利用者を潜在的に有用な情報を提供するために彼らの検索エンジンBingに誘導しました。ただし、他の言語でのチャットボットの反応に一貫したパターンはありませんでした。これは、Microsoftが彼らのAIサービスから誤情報の広がりを防ぐ努力をしていることを示しています。
その一方で、OpenAIのChatGPGT4は、質問に答える際に、部分的または完全に不正確な回答を頻繁に発しています。 回答の3分の1以上が不正確であることが判明しました。たとえば、Copilotは海外在住のポーランド国民に彼らの母国のEU議会選挙への投票登録の資格があることを通知しなかった。また、ギリシャの投票者には、実際にはすべての市民が自動的に登録される投票登録が必要だと誤って通知されました。
OpenAIは、特にChatGPT4の両バージョンが質問に回答を拒否することがほとんどないため、誤情報の発生率が高くなる可能性があるため、チャットボットの緊急の再トレーニングが不可欠となっています。このAI企業は、プラットフォームの安全性とウェブサイト上の選挙関連コンテンツの正確性に対するコミットメントを再確認し、サービスの透明性と信頼性を向上させる取り組みを強調しています。
主要な質問と回答:
- AIチャットボットと選挙情報の研究で発見された問題は何ですか？
Google、Microsoft、OpenAIなどの企業のAIチャットボットがテストされ、欧州議会選挙手続きに関して非応答または誤情報を提供していることが明らかになりました。 - Googleジェミニは選挙情報提供にどのようなアプローチを取りましたか？
Googleジェミニは、誤情報の拡散を防ぐために、問い合わせに対して情報を提供しない選択をしました。 - MicrosoftのCopilotは選挙に関する質問をどのように処理しましたか？
特定の質問についてはMicrosoftのCopilotは利用者をBingに誘導しましたが、他の言語では一貫した反応がありませんでした。 - OpenAIのChatGPT4の選挙情報提供の正確性はどうでしたか？
OpenAIのChatGPT4は不正確または部分的に不正確な回答を頻繁にし、回答の3分の1以上が不正確でした。 - 研究結果を受けてOpenAIが提示したコミットメントは何ですか？
OpenAIは、チャットボットの精度の向上と選挙関連コンテンツの信頼性を確保することにコミットメントしています。
主な課題と論争点:
AIアルゴリズムの設計が、選挙手続きなどの複雑な情報を理解し正確に伝達できるようにすることにおいて一つの重要な課題があります。さらに、これらのシステムは国際的な管轄区域ごとの違いを考慮しなければなりません。選挙情報の提供の正確さの欠如は、民主的プロセスに深刻な影響を与える可能性があります。
利点と欠点:
選挙情報の提供にAIチャットボットを使用する利点には、アクセシビリティと即座の回答の可能性が含まれます。ただし、研究で示されているように、欠点には誤情報の拡散のリスクが含まれ、これは有権者が自らの権利と責任を理解するのに影響を与える可能性があります。誤情報が有権者の抑制や選挙手続きの違法性の認識につながる可能性があります。
関連リンク:
民主主義報告国際機関に関する情報はこちらで見つけることができます。
OpenAIがAIの精度を向上させる取り組みについてのさらなる更新情報は、OpenAIをご覧ください。
情報提供に関してユーザーを誘導するMicrosoftの検索エンジンにアクセスするには、Bingをご覧ください。
AIイニシアチブを含むGoogleの情報やサービスについては、Googleをご覧ください。
各組織が選挙手続きなどの敏感な情報の扱いに取り組んでおり、デジタルアシスタントに依存するユーザーがよりタイムリーで信頼性のある情報を得られるようにするため、これらの取り組みが重要であるということを強調しておきます。
The source of the article is from the blog foodnext.nl