2020年の選挙におけるジョー・バイデン大統領の勝利を裏付ける証拠が増えているにもかかわらず、依然として多くの共和党員が彼の勝利の正当性を疑問視しています。この懐疑は、右翼候補者の間で選挙詐欺の主張が広まっていることによって助長されています。そして、生成人工知能（AI）の登場により、選挙関連のディスインフォメーションの問題が悪化する可能性があります。
最近のCenter for Countering Digital Hate（CCDH）の報告書は、生成AIが選挙中に誤った情報を拡散するリスクについて明らかにしました。生成AIツールを開発している企業は、そのようなディスインフォメーションの拡散を防ぐための保護策を実装していると主張していますが、CCDHの研究者たちはこれらの対策を回避し、誤った画像を作成することができました。
CCDHの研究者たちは、ChatGPT Plus、Midjourney、Dream Studio、Image Creatorなどのさまざまな生成AIプラットフォームをテストしました。結果は、Midjourneyが選挙に関連する誤った画像を生成する傾向が特に強く、約65％の精度でした。一方で、ChatGPT Plusはそのような画像をわずか28％の確率で生成しました。
CCDHの主任研究者であるカラム・フッドが強調した懸念の一つは、これらのプラットフォームが選挙の盗難の虚偽主張を促進するために使用される画像の作成に関して明確な方針や安全策が欠如していることです。フッドは、プラットフォームが誤った画像の生成を防ぐだけでなく、そのようなコンテンツを効果的に検出して削除することにも焦点を当てるべきだと強調しています。
OpenAIはこの問題に取り組むための措置を講じており、民主的な参加を阻害する画像を禁止していますが、MidjourneyやDream Studioなどの他のプラットフォームは政治的または誤ったコンテンツの作成を明示的には対処していません。これは、生成AIプラットフォームの総合的な準備状況について懸念を抱かせるものです。
今後の選挙は、生成AIプラットフォームの安全プロトコルの本物のテストとなります。フッドは、誤解を招く画像作成の防止に効果的なツールの開発と、そのようなコンテンツを検出し削除する強固なプラットフォームの実装の進展の必要性を強調しています。選挙の正確性と誠実性を保証し、ディスインフォメーションの拡散を防ぐことは、AI開発者、プラットフォーム運営者、政策立案者の共同責任であると強調されています。
The source of the article is from the blog elperiodicodearanjuez.es