미국의 글로벌 컴퓨터 기술 기업 마이크로소프트가 최근 군사 작전을 위한 소프트웨어 구축을 지원하기 위해 OpenAI의 이미지 생성 도구인 DALL-E를 활용하도록 제안했다는 소식이 전해졌다. 이 놀랍고 전략적인 제안은 OpenAI가 이전에 금지했던 군사 분야의 업무 금지 조항을 해제한 후에 이루어졌다.
“국방부 데이터와 함께 하는 생성적 인공지능”이라는 마이크로소프트의 프레젠테이션에서는 국방부가 OpenAI의 유명한 ChatGPT 텍스트 생성기와 DALL-E 이미지 생성기를 포함한 머신러닝 도구를 활용하는 방안이 개괄적으로 소개되었다. 이러한 도구들은 문서 분석부터 기계 유지 보수까지 다양한 작업에 적용될 수 있으며, 군사 작전 내에서 활용될 수 있다. 마이크로소프트의 OpenAI에 대한 중요한 투자로 두 기업 사이의 긴밀한 협업 관계가 이루어지고 있다. 그러나 마이크로소프트와 OpenAI는 허가나 인정 없이 저널리즘을 사용한 사안으로 소송을 당했다.
마이크로소프트 문서에서의 자료들은 2023년 10월에 열린 국방부 “인공지능 인식력” 훈련 세미나에서 얻은 것이었다. 이 행사에서는 마이크로소프트와 OpenAI를 비롯한 다양한 머신러닝 기업들이 국방부에 자사의 제품 및 능력을 소개했다.
이러한 공개적으로 접근 가능한 파일들은 연방 정부의 기술 수급을 지원하는 비영리 컨설팅 업체인 Alethia Labs의 웹사이트에서 발견되었다. 기자인 Jack Poulson은 이 발표자료를 연구하는 과정에서 이 자료들을 꺼내 들었다. Alethia Labs는 인공지능 도구를 신속하게 통합하도록 국방부와 긴밀히 협력하고 있으며, 작년부터 국방부 주요 인공지능 부처와 계약을 맺고 있다.
FAQ:
군사 지휘관 시스템이란?
군사 지휘관 시스템은 군사 지도자가 전투 상황에서 종합적인 상황 파악을 위해 사용하는 지휘 및 통제 소프트웨어 패키지이다. 대포 사격, 공습 목표 식별, 군대 이동 등과 같은 행동의 조정을 가능하게 한다.
DALL-E가 전투 지휘 시스템에서 어떻게 도움을 줄 수 있을까?
DALL-E를 활용함으로써 국방부의 컴퓨터는 “시각” 능력을 향상시킬 수 있다. DALL-E가 생성한 생상 이미지는 컴퓨터가 전투장면에서의 상황을 더 잘 “보고” 이해할 수 있게 해줄 것이다. 이러한 개선은 목표 식별과 파괴 작전에 상당한 도움이 될 것이다.
마이크로소프트가 이미 DALL-E를 군사 목적으로 사용하고 있나요?
The Intercept에 따르면, 마이크로소프트는 전투장비 소프트웨어를 훈련하기 위해 DALL-E를 사용하기를 제안했지만, 현재까지 실질적으로는 구현되지 않았다. 마이크로소프트는 이러한 것들은 잠재적인 사용 사례로서 고객과의 대화를 통해 논의되었다고 강조했다.
OpenAI가 국방부에 어떠한 도구도 판매한 적이 있나요?
OpenAI는 마이크로소프트가 국방부에 제안한 것에는 관여하지 않았으며 국방부에 어떤 도구도 판매하지 않았다고 주장했다. OpenAI의 정책은 엄격히 자기들의 도구를 사용하여 무기를 개발하거나 다른 사람에게 해를 가하거나 재산을 파괴하는 것을 금지하고 있다.
OpenAI 대변인인 리즈 부르주아는 OpenAI 모형이 발표 자료에서 설명한 바와 같은 방식으로 사용된 사례에는 아직 사용되지 않았다고 강조했다. 더불어, OpenAI는 자신들의 API나 ChatGPT를 이와 같은 맥락에서 국방부와의 특별한 제휴를 가지고 있지 않음을 밝혔다.
OpenAI의 이전 정책을 고려할 때, DALL-E의 군사적 응용은 금지되어 왔을 것이다. 마이크로소프트는 국방부가 OpenAI의 도구를 활용하려면 마이크로소프트와의 계약을 통해 해당 정책에 따라야 한다고 명확히 한다. 그러나 OpenAI 기술을 활용하여 군사적인 살상과 파괴 능력을 강화하려는 것은 안전한 인공지능을 개발하는 것을 중심으로 한 회사에 대한 중대한 변화를 나타낼 것이다.
기술 윤리에 초점을 맞춘 옥스포드 대학교 블라바트닉 정부 학교의 방문 연구원 브리아나 로젠은 이러한 기술과 관련된 윤리적 고려 사항을 강조했다. 그녀는 정부가 OpenAI의 기술을 긍정적이든 부정적이든 사용하는 것은 본질적으로 정치적 선택이라고 강조했다.
이 발표 자료는 DALL-E가 전투 지휘 시스템 내에서 어떻게 배치될 수 있는지에 대한 명시적인 세부사항을 제공하지는 않았다. 그러나 이 시스템들을 훈련하는 것에 대한 언급에서 보면, 국방부에 합성 훈련 데이터를 제공하는 측면에서 DALL-E를 활용할 수 있는 잠재적인 애플리케이션이 있음을 시사한다. DALL-E가 생성한 대규모의 인공 이미지를 군사 소프트웨어에 노출함으로써, 해당 소프트웨어는 실제의 적절한 대상들을 더 잘 식별할 수 있게 되며, 예를 들어 지상의 적 위치와 같은 내용을 더 잘 인식할 수 있게 도와준다.
인공지능 안전 엔지니어로서 이전 OpenAI에서 일한 Heidy Khlaaf는 군사 소프트웨어 훈련에 DALL-E를 활용하는 것이 정확도와 신뢰성에 어떤 영향을 줄지 의문을 제기했다. Khlaaf는 현재 DALL-E의 생상 이미지는 현실 조건에 대한 충실성이 부족하여 전투 지휘 시스템의 세밀한 조정에 효과가 제한될 수 있다고 주장했다.
결론적으로, 마이크로소프트가 군사 작전을 위해 OpenAI의 DALL-E를 활용하겠다는 제안이 나왔지만, 지금까지 구현된 것은 없다. OpenAI는 이 특정 제안에 참여하지 않았으며 자신들의 도구를 해로운 목적으로 사용하는 것을 방지하기 위한 헌신을 강조했다. DALL-E의 전투 지휘 시스템에서의 잠재력은 정확성, 윤리적 영향, 그리고 OpenAI의 총괄 미션을 고려할 때 알 수 있을 것이다.
The source of the article is from the blog meltyfan.es