OpenAIは、会話型AIプログラムChatGPTの開発者であり、報告されたところによるとロシア、中国、その他の地域に拠点を置く複数の組織がAIを利用して大衆の意見を操作していることを特定しました。
これらの組織は、自らの身元を秘匿することを好むグループであり、AIにより生成されたテキストやソーシャルメディアアカウントの作成、さらにはプログラミングタスクにAIを利用しています。彼らは、ロシアによるウクライナ侵攻やガザ地区の紛争、アメリカの政治などの重要な地政学的問題に焦点を当てて活動しています。
この中で、中国を拠点とする組織は特に活発であり、日本の福島第一原子力発電所から処理水を放出することに対する批判的なコンテンツを生成しています。この活動は日本語の投稿にも拡大されました。しかし、報告によると、これらのAIで作成されたメッセージはソーシャルメディアプラットフォームでの大きな視聴を得ていないとされています。
さらに、OpenAIは、AIツールを使用してプロパガンダ的な画像を生成しようとした試みがソフトウェアに拒否された事例があることを明らかにしました。これは誤用を防ぐための倫理的保護策を強調しています。OpenAIは、その発見が公表された同日に、これらの脅威を詳細にまとめた報告書を発表し、操縦的な慣行を防ぐためにAIの利用を監視および規制する重要性を強調しました。
AIによる大衆意見の操作の重要性と関連性:
AIを利用した大衆意見の操作は重要な懸念事項であり、政治的選挙に影響を与え、重要な問題に対する一般の感情を変え、異なるグループ間での対立を引き起こす可能性があります。ディープフェイクを作成したり説得力のあるテキストを書いたりするために開発されたAIツールなど、人工知能は規模と速度でデマを広めることができ、これは人間の能力を遥かに超えます。
主な質問と回答:
– 組織はどのようにAIを利用して大衆意見を操作していますか？
組織はAIを使用して説得力のあるテキストを生成し、リアルな画像やビデオ（ディープフェイク）、偽のソーシャルメディアプロフィールを作成し、デマの拡散を自動化します。
– OpenAIはどのようにしてそのツールがプロパガンダに使用されるのを防いでいますか？
OpenAIは倫理的な保護策と監督メカニズムを実施しており、ソフトウェアがプロパガンダやデマ向けのコンテンツを生成するのを検出および防止できます。
– AIの利用を規制する際に関連する課題は何ですか？
AIツールや技術の国際的な境界を越えた普及は規制の実施を困難にします。さらに、AIの進化する能力が効果的なガバナンスフレームワークの設立を上回る可能性があります。
主な課題や論争:
AIを利用した大衆意見の操作に対処する上での主な課題には、悪意ある活動を特定し帰属させることが必要であり、多くの人々が身元を隠して活動しているか、海外から操作しているためです。さらに、デマを抑制する必要性と表現の自由のバランスや、テック企業と国家権威の間でコンテンツを規制する役割についての議論が続いています。
AIの利点:
– 一般意見傾向を理解するための効率的なデータ処理と分析が可能となる。
– 正当なニュースや緊急アラートの迅速な情報発信を容易にします。
AIの欠点:
– AIは偽のナラティブを増幅させ、洗練されたデマキャンペーンを作成するために使用される可能性があります。
– 情報への信頼の浸食への懸念が生じます。
規制の取り組みと倫理的考慮事項:
AIの進展により、政治の分野での誤用を防ぐための倫理的使用と規制措置についての議論が促されています。世界中の組織や政府は、AIによって引き起こされる倫理的な課題に取り組むための政策を開発する上でますます意識が高まっています。
AIの影響や全体的な社会への影響について詳しく知りたい場合は、以下のリンクを探索してみてください：
– OpenAI
– 国連デジタル協力
– 世界保健機関（健康に関するAI問題）
The source of the article is from the blog papodemusica.com