인공 지능이 현대 전쟁에 미치는 역할은 새로운 위협을 제기합니다
전쟁의 변화하는 풍경에서 인공 지능(AI)으로 구동되는 자율 무기 시스템은 국제 안보에 대한 심각한 우려 요인입니다. AI 전공의 컴퓨터과학 교수인 Karl Hans Bläsius 교수는 이러한 기술이 인간의 통제를 벗어나 급속한 에스컬레이션을 유발할 수 있는 잠재적 위험에 대해 경계를 높이고 있습니다.
Bläsius 교수는 기술에 자율성이 부여된다면, 자율 주행 자동차 및 위험환경에서의 로봇 등과 같은 기술의 이점을 짚어보면서, 파괴를 위해 설계된 자율 무기로의 자동화된 기능에 따른 심각한 위험을 강조합니다. 그는 살아남기를 자동화하는 것은 원하지 않는다고 주장하며, 핵무기와 관련된 위험한 발전을 비롯한 특히 위험한 발전에 대해 경고합니다.
금융계의 고주파 거래 알고리즘과 유사성을 찾아내면서, “플래시 크래시”로 알려진 갑작스러운 시장 충돌을 유발한 고빈도 거래 알고리즘들과 유사하게 AI로 구동되는 무기가 예기치 않은 상호 작용을 일으킴으로써 급속하고 통제 불가능한 “플래시 전쟁”을 일으킬 수 있다는 경고를 전합니다. 이러한 시나리오는 자동화된 시스템이 인간의 대응 능력을 뛰어넘는 속도로 전쟁에 참여하는 미래를 묘사하며, 공격과 반공격의 나선 효과를 창출할 수 있다는 것을 보여줍니다.
이스라엘이 해마스 전투원들과 그들의 위치를 식별하기 위해 사용하는 것과 같이 군사적 목표 결정에서 이미 AI를 사용한다는 점에 주목하는 Bläsius 교수는 이러한 상황에서 인간 검증의 부재로 인해 기계가 누가 살고 누가 죽을지, 민간인을 포함한 결정을 내릴 수도 있다는 우려를 표현합니다.
Bläsius 교수는 현대 군사 작전의 엄청난 복잡성과 시간 압력을 관리하기 위해 AI가 필요한 점을 강조하면서도, 이러한 발전의 문제점들을 인정하며, 이러한 발전이 인간 판단을 우회하고 윤리적인 문제들을 야기할 수 있다는 가능성에 대해 경계를 두고 있습니다.
AI가 구동하는 자율 무기의 도전과 논란
AI가 구동하는 자율 무기는 군사, 정치, 윤리 및 법적 분야를 포함한 다양한 분야에서 논란을 불러일으키는 복합적인 문제와 도전을 제기합니다. 여기에는 다음과 같은 주요 도전과 논란이 포함됩니다:
책임 소재: 자율 무기 시스템의 주요 문제 중 하나는 의도하지 않은 파괴 또는 부당한 사망의 경우 누가 책임을 져야 하는지에 대한 문제입니다. 명확한 지침 없이 AI에 의한 행동에 책임을 지정하는 것은 도전적일 수 있습니다.
윤리적 고려사항: 전쟁에서의 AI 사용은 인간 생명을 가치있게 여기는지에 대해 윤리적 문제를 제기합니다. 기계는 인간 생명을 가치있게 여기지 않으며, 전쟁에서의 배치로 인해 충돌에 더 많이 참여하고 생명을 더 많이 잃을 가능성이 있다는 우려를 제기합니다.
정치적 결정력의 침식: 일반적으로 전쟁을 결정하는 것은 선출 대표자나 지도자가 하는 정치적 결정입니다. 위협에 대해 밀리초 단위로 반응할 수 있는 AI 시스템으로 인해 정치 과정이 우회될 우려가 있으며, 민주적 과정 없이 전쟁이 시작될 수 있다는 우려가 있습니다.
군사적 에스컬레이션: 자율 무기의 배치는 다른 나라의 능력에 뒤쳐지지 않으려는 나라들의 군사적 경주로 이어질 수 있습니다. 이는 군사적 긴장과 전 세계적인 불안정을 초래할 수 있습니다.
고장 발생 가능성: AI로 구동되는 시스템은 기술적 실패와 고장에 취약합니다. 소프트웨어 결함이나 해킹 사건 발생 시, 자율 무기가 예상치 못한 또는 예측할 수 없는 행동에 가담하여 충돌로 이어질 수 있습니다.
장단점
장점:
– 위협에 대한 응답에서 효율성과 속도가 증가
– 전투 상황에서의 인간 군인에 대한 위험 감소
– 특정 상황에서 전투피해를 줄일 수 있는 명중 정밀도
– 인간에게 너무 위험한 환경에서의 작동
단점:
– 책임 소재의 소실과 인간 감독력의 저하 가능성
– 인간의 삶의 가치와 치명적 힘 사용에 대한 결정에서의 윤리적 문제
– 고장의 가능성 또는 적대자에게 손상당할 가능성
– 에스컬레이션과 군사 충돌의 증가 위험 (플래시 전쟁)
– 국제 인도적 법률에 따라 AI를 프로그래밍하는 딜레마
주요 질문:
1. 자율 무기 시스템의 행동에 누가 책임을 져야 하는가?
2. AI가 구동하는 전투가 국제 인도적 법률에 부합할 수 있는 방법은 무엇인가?
3. 자율 무기에 충분한 인간 감독이 보장될 수 있는 메커니즘이 무엇인가?
4. 국제 커뮤니티가 AI가 구동하는 자율무기의 확산과 증가를 어떻게 방지할 수 있는가?
AI가 구동하는 자율 무기에 대한 토론이 계속되는 가운데, 유엔은 이러한 도전이 논의되는 플랫폼으로, 그러한 무기의 규제와 통제에 대한 세계적 합의를 추구하고 있습니다.
전반적으로, 군사 작전에 AI를 배치하는 잠재적인 이점이 있지만, 단점과 위험들은 국제적 수준에서 신중한 고려와 규제가 필요함을 강조합니다. “플래시 전쟁”의 전망은 적절한 체크와 균형이 갖추어지지 않은 채 AI의 활용으로의 돌진으로 어떤 결과가 발생할 수 있는지에 대한 잠재적인 결과를 상기시켜 줍니다.