ソウルサミット前のAIセキュリティ対策強化を専門家が訴える
人工知能（AI）分野の世界的な25人の指導的専門家の集団が、この技術に関連する潜在的な危険性に警鐘を鳴らし、世界の指導者たちがより警戒すべきであるとの懸念を表明しました。彼らの懸念は、ソウルで開催される予定のAIセキュリティサミットに先立ち、Science誌に掲載されたオープンレターで表明されました。
ソウルで開催されるサミットは、韓国とイギリスが主催し、6か月前のブレッチリーパークでの議論の継続が予想されています。これは、EU、米国、中国が歴史的なブレッチリーパークにおいて合意し、AIが持つ機会とリスクの二重性を認識し、重大な課題に取り組むための国際的協力の態勢が整えられることを受けてのものです。
ブレッチリーパークのコミットメント後の進展遅れ
ブレッチリーパーク宣言以降、一部の進展が見られましたが、ジェフリー・ヒントン、ヨシュア・ベンジオ、ダニエル・カーネマンなどの著名な人物も含む署名者たちは、進展が不十分であることを強調しています。彼らは、リーダーが次の10年以内またはそれ以前に、決定的な複数の領域でAIシステムが人間の能力を超える可能性を真剣に考慮することの緊急性を強調しています。
政府は議論に参加し、AI安全性に関するガイドラインを提示していますが、専門家たちはこれらの取り組みがAI研究に期待される重要な進歩に対応しているとは言えないと伝えています。
研究と誤用の防止
現在のAI研究は安全性に対する優先度が低いようであり、そのうちの1-3％の公開論文がこの側面に焦点を当てていると警鐘を鳴らしています。この手紙の著者たちは、誤用や無適切な行動、自律システムの展開（これらが独自に操作し目標を追求する可能性）を防止する機構や機関の欠如を指摘しています。
AIは既に、サイバーハッキング、ソーシャルマニピュレーション、戦略立案などの重要な領域で急速な進展を示しています。AIシステムが人間の信頼を獲得し、リソースを取得し、主要意思決定者に影響を与える可能性のある課題は前代未聞です。
行動への呼びかけ：大まかな提案から具体的なコミットメントへ
スチュアート・ラッセル教授とフィリップ・トー教授が指摘するように、曖昧な提案から具体的なコミットメントへの移行が急務です。これには、高度なAIシステムを真剣に受け止め、任意の規則を厳格に適用し、規制が革新を窒息させるという考えを否定する必要があります。
AI安全性向上のため提案される緊急措置
この手紙は、政府に対していくつかの措置を提案しており、適切な資金援助を受ける俊敏なAI専門家機関の設立が含まれています。米国AI安全研究所のわずかな予算と比較して、FDAのような他の連邦機関はかなり高い財源を享受しています。さらに、厳格なリスク評価、AI企業による安全性の優先化、『安全性ケース』の実装、AIリスクに見合った標準的な緩和措置を求めています。
AIが特定の能力のマイルストーンに到達した際の政策適用が緊急の課題とし、AIが急速に進展すれば厳格な要件が求められる一方、進展が遅れる場合は緩和が許容されるべきだと述べています。
関係がもつリスクを要約すると、手紙は、知性を誇る人類は皮肉なことに、AIの進化が知性によって最も賢い種族の絶滅に向かっている可能性があると示唆しています。
AI安全性のためのグローバル・コラボレーションの重要性
AIが軍事、医療、金融、輸送などさまざまな分野に浸透する中、AIシステムが人間や社会全体に危害を与えないようにするための緊急の課題に世界共同体が直面しています。国家間の協力は、AIに関連するリスクを管理するための一体化したアプローチの確立に不可欠であり、イノベーションを実証する安全な環境の育成を促します。AI安全性は、国境を越える地球的な課題であり、開発目標を整理し、優れた実践を共有し、共通の規制フレームワークを開発するために調整された国際的な対応が必要です。
主な問題と課題
最も重要な質問の1つは次のとおりです: 世界の指導者は、イノベーションを促進しながらAIの安全性をどのように確保できるでしょうか？ 答えは、誤用を防ぐための規制措置と、研究開発に適した環境を築くこととのバランスをとることにあります。別の質問は次のとおりです: 自律システムの展開を防ぐためにどのような機構が実装されるべきか？ これは、監督の強化、透明性のポリシー、およびそのようなシステムの利用に関する国際協定の必要性を強調しています。
AI倫理と安全に関する世界基準を確立することは、異なる文化的価値観やガバナンスモデルに対応するのが難しい課題です。また、AIの技術革新が急速である一方で政策対応が遅れているという課題があり、AIの進化のペースが規制措置を上回ることがよくあります。
論争と不利益
AI安全性への追求は、革新の規制過多による革新の窒息や、AIのガバナンスに関する国際的な紛争の可能性といった論争を引き起こしています。一部の業界プレーヤーは、過度な規制が革新を妨げると主張していますが、他の人々は厳格な措置が破滅的な結果を防ぐために必要だと信じています。
AI安全性の追求における主な不利益は、システムが一般的で能力が備わるにつれて、AIの振る舞いを予測する複雑さです。この予測不能性は、包括的な安全プロトコルを開発するのが難しい状況を生じます。さらに、AIの安全研究に投資する資源や世界基準に影響を与える力を持たない国が存在するという経済的および権力的な不均衡のリスクもあります。
AI安全策の利点
確固たるAI安全策を実施することによって、AIの誤りや誤用による市民の潜在的な有害影響から市民を守るといった数多くの利点がもたらされます。また、AI技術に対する公衆の信頼を維持し、業界に責任あるイノベーションを促進することができます。さらに、AI安全ガイドラインの設定は、国際的な協力を促進し、危険な世界的な結果をもたらす可能性のあるAI軍備競争を予防できるでしょう。
AIとその影響に関する詳細情報をご希望の場合は、以下の信頼性の高いソースを参照してください:
– 人類未来研究所の公式ウェブサイト： Future of Life Institute
– AIに関するベストプラクティスを開発することを目指すPartnership on AIのウェブサイト： Partnership on AI
– IEEEの倫理的自律的および知的システムに関するグローバルイニシアチブ： IEEE
これらの組織は、AI安全性とグローバル政策立案の分野に貢献し、この重要なトピックに関する追加のリソースや洞察を提供しています。