世界各地で数多くの選挙が行われる予定の2024年、人工知能（AI）が民主的なプロセスに与える影響についての懸念が生じています。AIが生成したコンテンツが警戒心を引き起こした事例はあるものの、これらの出来事は迅速に否定され、信頼性のあるニュースソースでは広く認知されなかったため、大きな影響は与えませんでした。
現在、生成AIは説得力のあるが一時的なフェイクを作り出すことが可能です。さらに、情報、ディスインフォメーション、ミスインフォメーションの拡散には通常、説得力のあるストーリーが必要です。例えば、ピッザゲートやQAnonといった陰謀論はAIの助けを借りずに公共の議論を形成することに成功しました。したがって、選挙へのAI生成コンテンツの効果は、多次元の知識を持つ熟練した人間のオペレーターに依存する可能性が高いでしょう。
さらに、現代のメディア環境の分断状況、特にソーシャルネットワークを通じて、生成AIが選挙に与える潜在的な影響には制約が存在します。ユーザーコミュニティがさまざまなプラットフォームに分散することで、悪いコンテンツはインターネットのますます限られた場所に到達します。これにより、その現象の検出と説明が複雑化するかもしれませんが、全体的な影響力は低下します。
これらの要因―AIフェイクの一時性、それらをより大きなストーリーに結びつける必要性、情報の分散―は、生成AIによる選挙への潜在的な損害からの初期の保護となります。
ただし、既存のこれらの保護だけに頼ることは重要ではありません。代わりに、民主主義と選挙を人々のための人間活動と見なし、優先する積極的な対策を実施する必要があります。AI、ソーシャルメディア、または選挙キャンペーンにおける過剰なパーソナライズは制限されるべきであり、個々の有権者に迎合することを候補者が行うことを防ぐ必要があります。オンラインアイデンティティの透明性を維持することも重要ですが、匿名性が投票目的で必要な場合を除きます。有権者は、遭遇するコンテンツの背後に誰がいるのか、AI生成の素材を含めて明確に理解している必要があります。
さらに、ソーシャルメディアプラットフォームは、生成AIの潜在的な誤用に対して積極的な役割を果たす必要があります。彼らはユーザーにAI生成コンテンツについての情報提供を行い、大規模な操作を監視し、協調したAIによる嫌がらせを防ぎ、システムの独立した研究と検証を可能にするべきです。
最終的には、社会は民主主義を揺るがそうとするあらゆる試みに対して団結する必要があります。しばしば内部から生まれるものです。AIの進展よりも、民主主義の完全性を優先することが肝要です。