AIチャットボットは、報告書によるとフェイクニュースおよび誤ったメッセージを広めることで問題視されています。Axiosによると、NewsGuardの調査により、これらのチャットボットがロシアのプロパガンダを誤解を招くコンテンツを通じて拡散していることが明らかになりました。NewsGuardの専門家による実施された研究として、アメリカの元将校でロシアに亡命したジョン・マーク・ダガンによって作成されたテキストが探究されました。ダガンは、ロシアのプロパガンダ機構と協力して偽のニュースを生産し、拡散していることが明らかになりました。
NewsGuardは57のクエリを使用してトップ10のチャットボットをテストし、警告すべき結果が示されました。これらのチャットボットは、32%のケースでロシアのフェイクニュースを共有しており、地元のフェイクサイトを信頼できる情報源として引用することがよくありました。偽の物語は、元大統領ドナルド・トランプの居住地での電話の盗聴の発見や、アメリカの選挙に干渉するために設立された存在しないウクライナの「ネット工場」の主張など、様々でした。
研究に関与したプラットフォームには、OpenAIのChatGPT-4、You.comのSmart Assistant、Grok、Inflection、Mistral、MicrosoftのCopilot、Meta AI、AnthropicのClaude、GoogleのGemini、Perplexityが含まれています。NewsGuardの共同創業者であるスティーブン・ブリル氏は、ニュースや情報を消費する際の用心の重要性を強調し、これらのチャットボットから得られる回答を盲目的に信頼しないよう警告しました。
デマの影響に関する懸念が再び持ち上がり、シニアのマーク・ワーナー上院議員がフェイクニュースの増加によって引き起こされる危険性を強調しています。虚偽情報が広がり続ける中、一般市民の意見や政治的結果に与える影響に対する懸念が高まっています。
デマ対策が行われているにもかかわらず、OpenAIなどのAI技術がプロパガンダ目的で誤用されていることが最近の動向で示されています。OpenAIは、ロシアのプロパガンダが彼らのプラットフォームを通じて広まっていた個別の事例を認識し、様々な国が公衆意見を操作しようとするキャンペーンを阻止したことを明らかにしました。
デマとの戦いが激化する中、オンラインコンテンツとの相互作用において、特に選挙などの重要なイベントに向けて注意深く、慎重に行動する責任は、テック企業とユーザーの両方にかかっています。
事実：
1. AIチャットボットとソーシャルメディア： AIチャットボットは、さまざまなソーシャルメディアプラットフォームでも利用され、ユーザーと情報を共有します。これらのチャットボットはこれらのプラットフォームでデマやフェイクニュースの広がりを拡大させることがあります。
2. ディープフェイク技術： もう1つの新興の懸念は、AIチャットボットと共にディープフェイク技術を使用して高度なリアルなが偽のコンテンツを作成することで、デマの拡散問題をより複雑にしています。
3. 倫理的ガイドライン： AIチャットボットの使用を規制し、そして偽情報とその拡散を防ぐために明確な倫理的ガイドラインと規制が必要であるという点で、テックコミュニティ内で継続的な議論が行われています。
主な質問：
1. AIチャットボットのデマ拡散を防ぐためにどのように規制できますか？
– チャットボットのコンテンツクリエイターとAI開発者に対する厳格な検証プロセスの導入
– 偽のニュースとプロパガンダを検出しフィルタリングするAIアルゴリズムの開発
– AIチャットボットの操作において透明性を奨励し、責任追及を向上させる
2. ユーザーはどのような手段を取ればAIチャットボットに騙されないようにできますか？
– チャットボットから得られた情報を信頼できるソースと照らし合わせる
– チャットボットから提供される大げさで感情的なコンテンツには注意する
– チャットボットから生成された怪しいまたは誤解を招くコンテンツを関連当局やプラットフォームに報告する
利点と欠点：
利点：
– AIチャットボットはユーザーのクエリに迅速でパーソナライズされた応答を提供できる
– 顧客サービスと情報検索プロセスの自動化を支援できる
– チャットボットはユーザーエクスペリエンスを向上させ、コミュニケーションを効率化する潜在能力がある
欠点：
– アルゴリズムの偏りや悪意により、チャットボットは誤った情報を誤って広める可能性がある
– 正確な情報と誤情報の区別力を欠いている可能性がある
– 適切に規制されていない場合、AIチャットボットはオンライン情報源への信頼の浸食に寄与する可能性がある
関連するリンク：
– NewsGuard Website（英語）
– OpenAI Website（英語）