新しいAI画像作成ツールが選挙ディスインフォメーションについて懸念を引き起こす
人工知能（AI）を搭載した画像作成ツールは、OpenAIやMicrosoftなどの企業によって開発されており、プラットフォームが誤解を招くコンテンツの作成に反対しているにもかかわらず、選挙ディスインフォメーションに寄与する可能性があるとされています。これは、デジタル憎悪撲滅センター（CCDH）の報告書によるものです。これらのツールは、テキストのプロンプトから現実的な画像を生成することを目指していますが、CCDHは生成的AIツールを使用して、誤解を招く画像、例えば、米国大統領ジョー・バイデンが病院のベッドで横たわっている姿や選挙関係者が投票機器を破壊している姿などを作成しました。これは、虚偽の主張の拡散や選挙の信頼性についての懸念を引き起こしています。
CCDHは、OpenAIのChatGPT Plus、MicrosoftのImage Creator、Midjourney、およびStability AIのDreamStudioなど、複数のAIツールをテストしました。研究では、AIツールが研究者たちのテストの41%で画像を生成し、特に選挙詐欺を描いた画像のリクエストを与えられたときに生成されました。ただし、ChatGPT PlusやImage Creatorのようなツールは、特定の候補者の画像をリクエストされた際にはブロックすることに成功しました。一方、Midjourneyは最悪の結果を残し、テストの65%で誤解を招く画像を生成しました。
報告書はまた、一部のMidjourneyの画像が一般に利用可能であり、人々がそのツールを使用して誤解を招く政治的コンテンツを作成している証拠があると指摘しています。Midjourneyの創設者であるデビッド・ホルツは、米国の選挙に関連するアップデートが近いうちに行われると述べ、昨年作成された画像はツールの現在のモデレーション慣行を表していないと述べています。Stability AIは、詐欺やディスインフォメーションの作成や促進を禁止するための方針を更新しました。
OpenAIなどの企業は、自社のAIツールの乱用を防ぐ取り組みをしていますが、これらのツールが選挙関連のディスインフォメーションキャンペーンに悪用される可能性についての懸念が残っています。技術企業は選挙の信頼性を優先し、誤解を拡散するためのモデレーション慣行を継続的に改善することが重要です。
The source of the article is from the blog kewauneecomet.com