인도 선거 시즌이 다가오면서, 인공 지능 (AI) 딥페이크가 정치 캠페인에 미치는 영향에 대한 우려가 커지고 있습니다. 최근 몇 년간 합성되고 현실적인 이미지와 동영상인 딥페이크는 더욱 보편화되고 정교해졌습니다. 이러한 기술은 정치인들의 연설과 외모를 조작하여 유괴 선거 가사들을 만들어냄으로써 투표자들 사이에 의구심과 불신을 일으킬 수 있습니다.
인도에는 저렴한 모바일 데이터와 높은 스마트폰 보급으로, 딥페이크가 WhatsApp과 같은 플랫폼을 통해 배포될 수 있다는 우려가 있습니다. 이는 투표자들의 결정에 영향을 끼칠 수 있거나 그들로 하여금 자신들의 투표의 중요성에 대해 의문을 품게 할 수 있습니다.
이러한 우려에 대응하기 위해 인도 전자 및 정보 기술부는 최근 생성 AI 회사들에 고시를 발행했습니다. 고시에는 이러한 회사들이 테스트 중이거나 신뢰할 수 없는 AI 시스템을 제공하는 경우, 정부로부터 명시적 허가를 획득하고 결과물을 적절히 표시해야 한다고 명시되어 있습니다. 이러한 조치는 선거 과정을 훼손할 수 있는 불법적이거나 오도하는 콘텐츠의 생성을 방지하는 것을 목표로 합니다.
그러나 이 고시는 국내, 국제 AI 플레이어들로부터 맹렬한 반발을 받았습니다. 많은 사람들은 이것이 혁신과 표현의 자유를 저해한다고 주장합니다. 전자 및 정보 기술 상태장관인 라지브 찬드라섹하르는 이 고시가 스타트업에 적용되지 않음을 명확히하며 어느 정도 안도감을 줬습니다. 그러나, AI 기술 남용에 대한 우려는 여전히 존재합니다.
이와 관련하여 스타트업 Muonium AI의 창립자 인센틸 나야감은 선거를 앞두고 ‘윤리적 AI 연대 선언’을 작성했습니다. 이 선언은 AI 기술이 책임 있게 사용되어 선거를 조작하지 않고, 오도하거나 정치기관에 대한 대중의 신뢰를 침해하지 않도록 하는 것을 목표로 합니다. 나야감은 약 30개의 회사에 연락을 취했으며, 이미 두 회사가 선언을 서명하였고 세 개가 서명을 진행 중입니다.
AI 딥페이크는 대상을 비방하기 위한 악의적인 패럴림이 아닌 것도 있습니다. 일부 애플리케이션들, 예를 들어 개별 유권자들의 이름으로 미리 녹음된 메시지를 보내는 등은 선거의 정직성을 위협하는 것이 아닌 신선함을 제공합니다. 예를 들어, 인도의 정당들은 개별 유권자들의 이름으로 주소되는 새롭게 합성된 목소리를 사용하여 사전 녹음된 메시지를 보내왔습니다. 이러한 응용 프로그램은 무해해 보일 수 있지만 남용 가능성을 고려하는 것이 중요합니다.
인도 딥페이커로 알려진 AI 크리에이터 Divyendra Singh Jadoun은 정치 당사자들을 위해 맞춤화된 메시지를 배포하기 위해 음성 및 비디오 AI 모델을 훈련시켰습니다. 그는 정당의 승인 아래, “윤리적” AI 창작물인 공인번역과 목숨을 다시 불러일으키는 작업을 한다고 주장합니다. 그러나 딥페이크 기술이 보다 접근하기 쉬워지면서, 당사자들이 직접 딥페이크를 제작하기 시작하며, 이로써 잘못된 정보를 퍼뜨리기가 더 쉬워지고 있습니다.
보다시피 인도의 곧 있는 선거를 위해 AI 사용에 대한 명확한 지침과 규정을 확립하기 위해 정부, AI 회사 및 정당들이 협력하는 것이 중요합니다. 투명성, 책임성 및 선거 과정의 진정성을 우선시함으로써 인도는 AI의 잠재력을 활용하면서 그것이 가지는 위험을 완화할 수 있습니다.
딥페이크가 정치 캠페인에 미치는 영향과 관련된 우려는 인도뿐만 아니라 국제적인 문제입니다. 딥페이크 기술의 사용은 다양한 산업과 시장에 영향을 미치는 문제로 떠오르고 있습니다.
FAQ:
1. 딥페이크란 무엇인가요?
– 딥페이크는 인공 지능 기술을 사용하여 합성된 현실적인 이미지나 동영상을 말합니다. 주로 인물들의 얼굴을 조작하여 다른 사람으로 보이도록 만들거나 다른 말을 하는 것을 표현합니다.
2. AI 지침은 어떤 내용으로 구성되어 있나요?
– AI 회사가 아직 테스트 중이거나 신뢰할 수 없는 시스템을 제공할 시에는 정부로부터 명시적 허가를 받아 결과를 표시해야 한다는 내용을 담고 있습니다.
3. 딥페이크 기술은 어느 산업 분야에서도 사용될 수 있나요?
– 딥페이크 기술은 정치 캠페인뿐만 아니라 엔터테인먼트, 사이버 보안, 언론 등 각종 산업 분야에 적용될 수 있습니다.
Sources:
– MarketsandMarkets Deepfake Market Report (https://www.marketsandmarkets.com)
– Deepfake Detection (https://www.example.com)
[Link to the article](#)
The source of the article is from the blog macholevante.com