인공 지능이 현대 전쟁에서의 역할은 새로운 위협을 야기합니다
전쟁의 변화하는 지형에서, 인공 지능(AI)으로 구동되는 자율 무기 시스템은 세계적인 안보 문제로 대두되고 있습니다. 인공 지능에 특화된 컴퓨터 과학 교수였던 Karl Hans Bläsius 교수는 이러한 기술이 인간의 통제를 벗어나 급격한 에스컬레이션 사이클을 유발할 가능성에 대해 경고합니다.
Bläsius 교수는 기술의 자율성이 가지는 이점, 자율 주행 자동차와 위험 환경에서의 로봇과 같은 기술의 잠재력 등을 강조합니다. 그러나 파괴를 목적으로 디자인된 자율적으로 작동하는 무기에 따른 심각한 위험성을 강조하며 살해 행위의 자동화는 바람직하지 않다고 주장하고 핵 무기와 관련된 특히 위험한 발전에 대해 경고합니다.
금융 세계의 고주파 거래 알고리즘과 유사한 점을 든 Bläsius 교수는 “플래시 전쟁”이라고 알려진 갑작스러운 시장 붕괴를 유발한 고 주파 거래 알고리즘과 유사하게 AI 기반 무기도 예기치 못한 상호 작용에 참여할 수 있어서 쉽게 통제할 수 없는 “플래시 전쟁”으로 이어질 수 있다고 경고합니다. 이러한 시나리오는 자동 시스템이 인간의 반작용할 수 없는 속도로 전쟁을 벌임으로써 반작용의 나선효과를 만들어내는 미래를 묘사합니다.
Prof. Bläsius는 이미 이스라엘이 공격대상을 결정하는 데 AI를 사용하고 그 해마다의 전투원과 그들의 위치를 식별하는 데 사용하기 때문에 프로페서는 이러한 상황에서의 인간 검증의 부족으로 인해 미래에는 누가 살고 누가 죽을 지 결정할지 결정할 수 없는 기계들로 이끌 수 있는 것에 대한 우려를 표명합니다.
Bläsius 교수는 현대 군사 작전의 엄청난 복잡성과 시간 압력 관리를 위한 AI의 필요성을 말하면서도 이러한 발전의 문제적인 성격을 인정합니다. 왜냐하면 이러한 발전들은 인간의 판단을 우회하고 그러한 윤리적 함의를 지니고 있기 때문입니다.
AI 기반 자율 무기의 도전과 논란
AI 기반 자율 무기는 군사, 정치, 윤리, 법적 분야를 비롯한 여러 분야에서 논란을 불러일으킨 복합적인 문제와 질문들을 제시합니다. 여기에는 다음과 같은 주요 도전과 논란이 포함됩니다:
책임성: 자율 무기 시스템의 주요 문제 중 하나는 의도하지 않은 파괴나 실효사 사건 발생 시 누가 책임을 져야 하는지에 대한 문제입니다. 명확한 지침 없이 AI가 취한 행동에 책임을 할당하는 것은 어려울 수 있습니다.
윤리적 고려: 전쟁에서 AI의 사용은 인간의 생명 평가에 대한 윤리적 문제를 제기합니다. 기계는 인간의 삶을 가치있게 생각하거나 판단하지 못하며, 이는 전쟁에서의 배치가 더 많은 충돌에 참여하고 더 많은 인명 손실을 초래할 수 있다는 우려를 제기합니다.
정치적 의사 결정의 침식: 일반적으로 전쟁을 시작하는 결정은 선출된 대표자나 지도자에 의해 이뤄집니다. 밀리세컨드 내에 위협에 반응할 수 있는 AI 기반 시스템에서는 정치적 과정이 우회되고, 민주 과정을 거치지 않고 전쟁이 시작될 수 있다는 우려가 있습니다.
군사적 에스컬레이션: 자율 무기의 배치는 다른 국가들이 다른 국가들의 능력을 추월하지 못하도록 하려는 병주 경쟁을 야기할 수 있습니다. 이는 전세계적으로 군사적 긴장과 불안정성을 증가시킬 수 있습니다.
장애 가능성: AI 기반 시스템은 기술적 결함과 장애에 취약합니다. 소프트웨어 결함이나 해킹 사건이 발생할 경우, 자율 무기는 원하지 않는… (이하 생략)