最近発見された政府委託の報告書が、人工知能（AI）の発展に対する迅速な対応の緊迫した必要性を強調しています。報告書のタイトルは、「高度なAIの安全性とセキュリティを高めるための行動計画」と題され、高度なAIやAGI（Artificial General Intelligence）の出現が、世界の安全保障に深刻な脅威をもたらし、人類の絶滅につながる可能性があることを警告しています。
この報告書は介入の緊急性を強調するだけでなく、これらの重要な懸念を解決するための設計図を提案しています。Gladstone AI Inc.の研究者らは13か月にわたり様々な利害関係者とインタビューを行い、政府関係者、主要クラウドプロバイダー、AI安全組織、セキュリティおよびコンピューティングの専門家などが含まれます。彼らの調査結果は、AIの台頭と歴史的な核兵器の導入の類似点を強調し、世界の安全保障の不安定化の道を開いています。
これらのリスクに対処するため、報告書は将来的に法律に規定される予定の中間的な高度なAI保護策の設立を提案しています。潜在的な対策の1つは、AIが作動する計算能力を規制する責任を負う専用のAI機関の設立です。さらに、AI企業は、特定の閾値を超える新しいモデルを展開するために政府の許可が必要となる可能性があります。報告書が提案する別の解決策は、強力なAIモデルの機能がどのように機能するかの開示を制限し、その情報を明らかにするオープンソースのライセンスを禁止することです。
AI技術の悪用を防ぐために、報告書はまた、AIチップの製造および輸出に関するコントロールの強化の重要性を強調しています。政府は、より厳格な規制を課すことで、高度なAIの兵器化や制御の喪失を緩和しようとしています。
技術の景観は急速に変化しており、報告書の結果は、AIに関連する潜在的リスクに対抗するための即時の行動の必要性を強調しています。世界中の政府や組織がこれらの課題に取り組む中、堅固な保護策と国際協力の実施が、高度なAIの安全性とセキュリティを確保する上で重要になります。
The source of the article is from the blog radiohotmusic.it