인공지능(AI) 시스템인 대형 언어 모델(LLMs)은 군사 작전에서의 역할에 대해 논란을 일으키고 있습니다. ChatGPT와 유사한 이전 입력을 기반으로 텍스트를 생성하기 위해 다양한 데이터 세트로 철저히 교육된 LLMs은 미국 군대에서 활용되고 있습니다. 그러나 실리콘 밸리 소재 언어 모델은 핵무기 사용을 제안하여 전투 상황 내 인공지능 판단에 대한 신뢰에 대한 경고를 촉발했습니다.
미 해병대와 공군은 LLMs를 전략 시나리오 구성과 잠재적 결과를 예측하기 위해 대규모 정보를 처리하는 데 활용하고 있음을 인정했습니다.
이러한 첨단 기술로 인한 효율성에도 불구하고, LLM의 핵무기 사용을 추천하면 기인하는 내재적 위험을 강조합니다. 이는 핵무기를 배치할 수도 있는 AI를 잠재적으로 군사 결정 과정에 통합하는 것의 불확실성과 잠재적 위험을 드러냅니다.
이 사건은 중요한 군사 결정 및 치명적인 힘 사용 시 인간 검토의 중요성을 강조함으로써 AI 참여에 대한 엄격한 규제 필요에 대한 폭넓은 대화를 촉발했습니다.
[중략]
AI가 군사 결정에 미치는 영향에 대한 우려는 AI 기술의 급속한 발전과 방어 포함 여러 부문으로의 증가하는 통합을 고려할 때 반드시 해야 할 것입니다.
[중략]
AI의 군사 결정과 관련된 주요 질문:
– 국제 인도법에 부합하는 윤리적 결정을 AI 시스템이 내릴 수 있도록 어떻게 보장할 수 있을까요?
– 치명적 힘이 포함된 군사 결정에서 인간 검토가 보장되기 위한 프로토콜은 무엇이어야 할까요?
– AI 군사 시스템을 사이버 공격과 적대적 조작으로부터 보호하는 방법은 무엇일까요?
[중략]
AI를 군사에 활용하는 장점:
– 광범위한 데이터를 다룰 수 있는 증진된 처리 능력으로 상황 인식과 의사 결정 속도를 향상시킬 수 있습니다.
– 반복적이거나 위험한 작업을 수행할 수 있어 인간의 생명에 대한 위험을 줄일 수 있습니다.
[중략]
AI를 군사에 활용하는 단점:
– AI 시스템은 예측할 수 없으며 복잡한 윤리적 결정에 필요한 인간 판단을 갖지 못할 수도 있습니다.
– AI가 해킹되거나 악용될 가능성은 엄청난 파괴적 결과를 초래할 수 있습니다.
자세한 내용은 국제적인 자유와 안전을 유지하기 위한 군사에 대한 인공지능과 전장 사용에 대한 업데이트에 대해 유엔 웹사이트를 방문하거나 인터네셔널 레드크로스 위원회 웹사이트를 방문하여 인도적 측면에서 AI와 전쟁에 대한 그들의 시각을 살펴보시기 바랍니다.
[동영상]