새로운 보고서에 따르면 미국 국무부에서 의뢰한 것으로 글래드스톤 인공지능이 주도한 인공지능(AI) 기술의 급격한 발전과 관련된 “비참한” 국가안보 위험을 경고했습니다. 이 보고서는 인간 종족에게 “멸종 수준의 위협”을 일으킬 수 있다고 언급하여 AI의 위험성을 강조했습니다.
이 연구원은 주요 AI 기업의 최고 경영진, 사이버 보안 전문가, 대규모 파괴 무기 전문가 및 국가안보 당국자를 포함한 200명 이상의 개인을 인터뷰했습니다. 그들의 연구 결과는 잠재적인 재앙을 막기 위해 연방 정부가 조치를 취해야 한다는 긴급성을 강조했습니다.
이 보고서는 AI가 질병 치료와 과학적 진전과 같은 경제적 변화를 가져오는 능력을 강조하면서도 상당한 위험성을 내재하고 있다고 강조했습니다. AI 능력이 계속해서 발전함에 따라 이러한 시스템이 특정한 임계점 이상으로 제어할 수 없게 될 수 있다는 증거가 점점 더 늘어나고 있다는 것이다.
글래드스톤 인공지능의 보고서는 AI에 의해 주어지는 두 가지 중요한 위협을 경고했습니다. 첫째, 가장 고도로 발달한 AI 시스템은 무기화될 수 있어 잠재적으로 되돌릴 수 없는 피해를 일으킬 수 있습니다. 둘째, AI 연구소 내에서는 연구자들이 개발 중인 시스템을 제어를 잃을 우려가 있으며, 이는 전 세계적인 안보에 대한 파괴적인 결과를 초래할 수 있습니다. 인공지능과 인공일반지능(AGI)의 부상은 핵무기 도입과 마찬가지로 세계 안보를 불안정화시킬 수 있는 가능성을 내포하고 있습니다.
이러한 위협에 대처하기 위해, 보고서는 새로운 AI 기관 설립 및 “긴급” 규제 보호 조치의 시행을 포함한 결정적 조치를 촉구했습니다. 보고서는 또한 AI 모델 훈련에 사용되는 컴퓨터 파워의 양에 한도를 설정하는 것을 제안했습니다. 미국 정부의 개입이 필요하다는 명백하고 긴급한 필요성을 강조했습니다.
이 보고서는 그 내용이 미국 정부나 국무부의 견해를 반영한다는 것은 아니라고 밝혔습니다. 그러나 국무부 비확산 및 해체기금 사무실에서 발표된 2022년 공고로 볼 때, 미국 정부가 발전된 AI와 관련된 확산 및 안보 위험에 대해 우려를 거듭 표명해온 점이 중요합니다.
글래드스톤 인공지능은 고도의 AI 공동체 내의 안전 문제를 강조했습니다. 보고서에 따르면 경쟁 압력이 가속화된 AI 개발을 추진하지만, 안전과 보안 고려사항이 종종 보류된다는 것입니다. 이는 최고 수준의 AI 시스템이 미국에 대해 훔쳐져 무기화될 위험성을 증가시킵니다.
FAQ
AI와 관련된 위험은 무엇인가요?
AI는 국가 안보에 상당한 위험을 초래할 수 있으며, AI 시스템이 무기화되어 되돌릴 수 없는 피해를 일으킬 수 있는 가능성이 있습니다. 또한, AI 공동체 내에서 고도의 AI 시스템을 통제를 잃을 우려가 있어 전 세계적인 안보에 엄청난 피해를 줄 수 있습니다.
보고서는 어떤 조치를 권장합니까?
보고서는 새로운 AI 기관의 설립, 규제 보호조치의 시행, 그리고 AI 모델 훈련에 사용되는 컴퓨터 파워의 양에 한도를 설정할 것을 요구합니다. 이러한 조치는 즉시의 위협에 대처하고 AI 기술의 안전한 개발과 배포를 보장하기 위한 것입니다.
미국 정부가 이러한 위험을 심각하게 여기고 있습니까?
보고서는 미국 정부가 긴급한 개입이 필요하다고 강조하지만, 정부나 국무부의 견해를 반영하지 않을 수 있다는 점을 인정합니다. 그러나 정부 공고에 따르면 미국 정부가 발전된 AI와 관련된 안보 위험에 대해 우려를 표명한 것으로 나타났습니다.
산업 리더와 전문가들이 AI 위험에 대해 어떻게 말하고 있습니까?
엘론 머스크와 제프리 힌턴과 같이 유명한 인물들은 AI의 잠재적 위험, 인간 멸종 위험과 같은 것에 대해 우려를 표명해왔습니다. 비즈니스 리더들도 AI의 파괴적 잠재력에 대한 우려를 표명했습니다. 그러나 그들은 계속해서 수십억 달러를 투자하면서도 AI에 대한 발전에 대한 우려를 표명하고 있습니다.
이러한 위험을 완화하기 위한 조치는 무엇인가요?
AI와 관련된 위험을 완화하기 위해 보고서는 규제 기구의 설립, 안전장치 및 AI 개발에 대한 한도 설정을 제안합니다. 또한 효과적으로 신흥 기술에 의해 야기된 위험을 관리하기 위해 국제적 협력과 양당 법안이 필요합니다.
The source of the article is from the blog krama.net