主要技術企業と政府がAIの安全策定のために結集。マイクロソフト、OpenAI、Anthropicを含むテクノロジー業界の巨大企業と追加の13社が、先駆的な政策枠組みに合意しました。新しいAIモデルの開発中に逃走状態が生じた場合、彼らは潜在的な「ターミネーター」のような破滅的なシナリオを防ぐために進行を停止することで合意しました。
AIリスクを軽減する協調した取り組み。ソウルで合意が成立し、AIの開発に関する進路を決定するために組織および政府代表者が集まりました。合意の中心は「キルスイッチ」であり、定義済みのリスク閾値を超える場合、最先端のAIモデルの進展を停止することを約束しています。
具体的な行動と明確さが不足。合意にもかかわらず、「危険な」閾値の具体的な行動や定義が不足しています。これにより、このポリシーの執行可能性と効果が疑問視されています。
Yahoo Newsが収集した報告によると、極端なケースでは、制御策が不十分な場合、組織は新しいAIモデルを公開しない可能性があります。Amazon、Google、Samsungなどの大手企業もこの取り組みを支持することを誓約し、広範囲にわたる業界全体の合意を示しています。
Unboxholicsが報告するAI専門家との議論は、重大なリスクを強調し、この統一された決定を促しています。この動きは、著名な学者であるジェフリー・ヒントンの予測を反映しており、AIが様々な職業分野で人間を置き換える可能性があることを警告し、労働力のダイナミクスに重大な変化をもたらしています。
AI緊急停止戦略に対する重要な懸念と課題：
1. 「危険な」閾値の定義：AIが開発を継続するにあたり、具体的なパラメーターを設定することは重要な課題です。明確な定義がなければ、停止合意は主観的で解釈の余地があります。
2. 執行可能性：AIに特化した世界的な規制フレームワークの不足を考えると、すべての当事者が停止合意に従うことを確実にすることは問題です。
3. 技術的能力：キルスイッチ自体の実現可能性は、AIシステムに確実なメカニズムを組み込む必要があり、これは複雑な作業です。
4. 競争圧力： 競合他社が停止しない場合、企業は研究を遅延させることに消極的になる可能性があり、AI開発の可能性ないしは潜在的な競争が増大する恐れがあります。
5. データプライバシーとセキュリティ：高度なAIシステムは膨大なデータを取り扱う可能性があり、急激なシャットダウンはデータプライバシーとセキュリティのリスクを引き起こす可能性があります。
AI停止合意の利点：
– 安全性の向上：洗練されたAIシステムの意図しない結果に対するセーフティネットを提供します。
– 公衆の信頼：このような合意により、AI技術およびそれを開発する各団体に対する公衆の信頼が向上します。
– 共同責任：技術企業間での責任と協力の文化を促進します。
AI停止合意のデメリット：
– イノベーションの抑止：過度に慎重または曖昧なガイドラインはイノベーションを阻害する可能性があります。
– 競争的デメリット：合意を守る団体は、特に異なる規制や執行レベルのある地域で、合意を守らない団体よりも劣後する可能性があります。
– 実施の難しさ：キルスイッチの実装および管理に関する実務的な側面は、挑戦的でリソースを要する可能性があります。
提案された利点と著しい課題があるにもかかわらず、この進展は、テクノロジー業界がAIの未来を形作る責任をどのように見ているかの変化を示唆しています。高度なAIの避けられない到来は、有害な結果に対抗するためのセーフガードの検討を強いられます。これらの枠組みを効果的に磨き上げ、実施するためには、ステークホルダー間の継続した研究と対話が不可欠です。
この合意の広い文脈に興味を持つ方々には、Association for the Advancement of Artificial Intelligence（AAAI）のAAAIやFuture of Life InstituteのFuture of Life Instituteなどの組織の主要なウェブサイトで、AI政策と安全性に関する権威ある情報源や議論が見つかります。新興AIの開発、政策、および議論について最新情報を把握するために、これらのリソースをチェックすることが重要です。
The source of the article is from the blog maltemoney.com.br