구글의 전 CEO이자 회장이었던 Eric Schmidt는 미래를 상상했습니다 – 가장 강력한 인공지능(AI) 시스템이 핵 에너지로 구동되고 엄격한 보안 조치로 보호되는 군사 시설 내에 위치할 수 있는 미래. 그의 예측은 미국과 중국의 손에 제한적이지만 놀라우히 강력한 AI 시스템이 자율 운용이 가능할 수 있다는 것을 상상하고 있습니다.
이 기술의 능력은 결국 미국 정부가 명시적 동의 없이 시민에게 이용 가능한 것보다 뛰어날 수 있습니다. Schmidt는 이러한 시스템을 국제적 경쟁 상대로부터 격리하는 것의 중요성을 강조했습니다. 이들 시스템의 보급을 막을 필요가 있다고 그는 Noema 잡지와의 인터뷰에서 설명하면서 군사 기지가 핵 에너지와 함께 철결한 보안, 가시적인 노처와 기궁으로 AI 시스템 성소로 삼을 수 있다고 설명했습니다.
구글 전 회장은 또한 AI가 중국에서 인간 경험 없이 무차별적으로 무기에 접근하고 발사할 수 있는 위험에 대해 우려를 제기했습니다. 이는 인공지능의 결합 없이 상황을 완전히 이해하지 못하고 중국의 무기 시스템에 악영향을 미칠 수 있다고 그는 주장했습니다.
많은 경우 국가들이 군사 무기 및 해군 선박에 AI를 응용했습니다. 예를 들어, 미 공군은 최근 이번 4월에 AI가 제어하는 전투기가 인간 조종사와 대결하여 성공적인 테스트를 보고했습니다. 이러한 발전에 대응하여 미국은 AI에 핵 무기 시스템을 신임하지 않을 것을 서약하고 중국과 러시아에 동일한 약속을 요구했습니다.
Schmidt의 예측이 기술 경쟁을 고려해 너무 과장되지 않았을 수 있습니다. 미국은 중국에 AI 칩 수출을 제한하면서 혁신적인 조달 전략을 취하고 있습니다. 반면 중국은 지식재산권을 양보하지 않기 위해 협정 없이 TikTok의 알고리즘을 정부 승인 없이 판매하지 않는 등 미국 기술에 대한 의존을 줄이려는 노력을 계속하고 있습니다.
2020년에 구글을 떠났으며 20년간의 리더십을 떠난 Schmidt는 그 이후로 AI 스타트업에 매력을 느껴들어 AI의 변혁적 영향과 그가 지닌 잠재 위험을 논의한 책의 공동 저자가 되었습니다.
주요 질문 및 답변:
강력한 AI가 국제 안보에 어떤 영향을 미칠까요?
강력한 AI 시스템이 군사에 통합되면 국제 안보의 지형을 근본적으로 변화시킬 수 있습니다. 자율적 AI는 새로운 전쟁 형태를 만들어내고 인간 감독을 능가할 수 있는 AI의 결정 속도로 무장 경쟁이 확대될 수 있습니다.
군사 응용에서 AI 사용이 세계적 권력 동태에 어떤 영향을 미칠 수 있을까요?
군사 AI에 투자하는 미국, 중국 등의 국가는 전략적 이점을 얻을 수 있어 세계적 권력 동태 변화로 이끌어질 수 있습니다. 선진 AI 능력을 가진 국가와 그렇지 않은 국가 사이의 이원론이 확대될 수 있습니다.
무기에 AI 사용이 가지는 윤리적 고려 사항은 무엇입니까?
무기에 AI를 사용하는 것은 AI가 가져야 할 수준과 전투 상황에서 AI 결정 책임에 대한 윤리적 질문을 제기합니다. 전적으로 자율적인 무기 시스템이 금지되어야 하는지에 대한 논란이 계속되고 있습니다.
도전과 논란:
군사 환경에서 AI 사용과 개발을 통제하기 위한 세계적인 규범과 규제를 수립하는 것은 주요 도전 중 하나입니다. 이에는 AI 주도 무장 경쟁의 가능성, 핵심 군사 결정에 AI에 의존하는 위험, 비국가 주체 또는 악의적인 국가로 전이되는 위험과 같은 논란이 포함됩니다.
장점:
– AI 강화 군사 시스템은 정보 처리, 의사 결정 및 실행에 대해 우수한 속도와 효율성을 제공합니다.
– 인간의 생명을 위험에 빠뜨릴 수 있는 위험한 작업을 대신 수행하여 작전이 가능합니다.
– AI 시스템은 방어 능력과 전략적 계획을 개선할 수 있는 잠재력을 제공합니다.
단점:
– AI 시스템은 인간 판단의 섬세한 면이 필요한 복잡한 상황에서 예상치 못한 방식으로 작용할 수 있습니다.
– 군사에서 AI 사용은 그의 행동과 결정에 대한 책임, 그를 둘러싼 명확한 윤리적 질문을 제기합니다.
– 다른 국가들이 AI 행동을 잘못 해석함으로써 발생하는 에스칼레이션 및 미봉책 위험이 있습니다.
인공 지능, AI 연구 및 사회에 미치는 영향에 대한 자세한 정보는 주요 AI 연구 기관 및 기술 회사들의 웹사이트에서 확인할 수 있습니다:
– Google의 AI
– OpenAI
– MIT (해당 링크는 특정 학과 또는 이들 도메인 내의 전용 AI 센터로 링크를 제공하지 않았습니다.)
AI 기술이 계속해서 발전함에 따라 군사 응용분야에서의 AI 사용에 대한 논의는 공론화되고 강조될 것으로 예상되며, 이는 정보화된 대중 논의와 견고한 국제 정책 협정의 필요성을 강조할 것입니다.