AIの急速な進化が国家安全保障と人類全体に対する「壊滅的な」リスクをもたらす可能性について、専門家が警鐘を鳴らしています。米国務省が委託した最新報告書「高度AIの安全性とセキュリティを確保するための行動計画」では、これらのリスクを緩和するための迅速な対策が必要であると警告しています。
報告書によれば、人工汎用知能（AGI）はまだ人間の知性を超えていませんが、高度AIやAGIの導入は世界的な安全保障を不安定化させる可能性があり、核兵器の出現に匹敵すると指摘しています。この緊急の懸念に対処するため、報告書は、AIトレーニングに割り当てられる計算能力に制限を設けるなど、米国政府が迅速かつ断固とした対応を取る必要があると提言しています。これを怠ると、「人類種の絶滅レベルの脅威」につながる可能性があります。
この報告書は、AIの専門家たちからの存続的なリスクに関する一連の警告の最新のものです。Yann LeCunやMetaの最高AI科学者であるDemis Hassabis、GoogleのAI部門の責任者であるEric Schmidtなど、分野の著名な人物が懸念を表明しています。さらに最近の調査によると、AI研究者の半数以上が、AIによる人類の絶滅の可能性が５％あると考えており、その他の有害な結果も含まれています。
報告書の作成には、OpenAI、Meta、Google DeepMindをはじめとする企業の代表、政府関係者など200人以上の専門家が協力しました。彼らの共同の専門知識により、著者たちはAIが人類に脅威とならないための重要な手段を提案しています。その提案には、AIモデルのトレーニングに使用される計算能力の上限の確立や、特定の閾値を超えるモデルのトレーニングに関して政府の許可を求める必要性も含まれています。報告書では、強力なAIモデルの内部構造やオープンソース化を明らかにすることを犯罪とすることも提案されています。
これらの提言は、AI研究所がAIシステムを「制御失う」可能性があり、それが地球規模のセキュリティに深刻な影響を与える可能性がある危険を取り除くことを目的としています。報告書の著者の一人であるGladstone AIのCEOであり、Jeremie Harris氏によると、AIは経済を革新し、病気を治療し、以前は乗り越えられないと思われていた課題を克服する可能性があります。しかし、同じ技術は壮大なリスクを伴い、一定の能力の閾値を超えるとAIは制御不能となる可能性があると研究によって示唆されています。
報告書は、AIによって引き起こされる国家安全保障リスクに対処する現行の安全保障対策が不十分であることを認めています。AI技術の責任ある開発と展開を確保するために、即座の行動と強力な規制が必要であると強調しています。ただし、AIに関する警告が繰り返されている歴史やその開発への継続的な投資を考えると、政府がこれらの提言に耳を傾けるかどうかは不明です。
最近、欧州連合はAIを規制する画期的な立法を成立させ、将来の規制の基準を設定しています。この米国の報告書は、特にその国のAI規制の現状を考慮すると、有効な懸念を提起しています。ただし、これらの提言が革新を抑制し、政府の過剰干渉と受け取られる可能性があるかもしれません。報告書に表明された見解は、米国国務省や米国政府の公式見解を必ずしも反映しているわけではないことに注意することが重要です。
ワドワニAI・先進技術センターのディレクターであるGreg Allen氏は、政府がこれらの提言を採用する可能性について懐疑的な見解を述べました。AIのリスクに関する議論が激化する中で、潜在的な利益と効果的な保護の必要性の両方を考慮するバランスの取れた論議に参加することが重要です。
FAQ
報告書の内容は何ですか？
米国務省が委託した報告書は、急速に進化するAIが国家安全保障と人類全体に対する「壊滅的な」リスクを示唆しています。
報告書の主な提言は何ですか？
報告書は、高度なAIモデルのトレーニングに割り当てられる計算能力を制限し、特定の閾値を超えるモデルのトレーニングに関して政府の許可を求めるなどの対策を提案しています。また、強力なAIモデルの内部構造やオープンソース化を犯罪とすることも提案されています。
報告書に貢献した人々は誰ですか？
報告書には、OpenAI、Meta、Google DeepMindなどの企業の代表者、政府関係者を含む200人以上の専門家が関わっています。
専門家たちはなぜAIに懸念を抱いていますか？
専門家は、AIが人類に対するリスクをもたらす可能性に懸念を表明しています。高度なAIやAGIの台頭は、核兵器の影響に匹敵し、世界的な安全保障を不安定化させる可能性があります。
AIを規制するためにどのような措置が取られていますか？
欧州連合は最近、AIを規制するための立法を成立させ、将来の規制の基準となることがあります。ただし、他の国々の反応は今後の課題となります。
提言は政府の過剰干渉に当たりますか？
一部の人々は、提言が政府の過剰干渉であり、革新を抑制する可能性があると受け取るかもしれません。しかし、AIの潜在的な利益と効果的な保護の必要性の両方を考慮したバランスの取れた論議に参加することが重要です。
用語の定義：
1. 人工汎用知能（AGI）：幅広いタスクやドメインにわたる知識を理解し、学習し、適用する能力を持つAIシステムを指します。
2. 計算能力：コンピューターシステムが計算を行いデータを処理する能力を表します。
3. オープンソース：ソフトウェアのソースコードや内部構造を無償で共有し、他者が修正や再配布を行える慣行を指します。
関連リンク：
1. 米国務省
2. OpenAI
3. Meta
4. Google DeepMind
5. 欧州連合
The source of the article is from the blog newyorkpostgazette.com