인공지능(AI)이 선거의 세계를 혁신하고 있지만 민주주의 프로세스에 상당한 위험을 안고 있다. 2024년 미국 선거가 다가오면 AI에 의한 잘못된 정보, 딥페이크, 그리고 속이는 미디어에 대한 우려가 그 어느 때보다도 더 일반적으로 드러나고 있다. 다행히도 정부와 기술 기업들은 행동이 필요하다는 점을 인식하고 있지만 민주주의를 보호하기 위해 아직도 많은 일이 남아 있다.
최근 뮌헨 안보 회의에서는 OpenAI, Apple, Meta, Microsoft, TikTok, Google 등 산업 리더들이 모여 선거에서 AI가 가져오는 도전에 대처하기 위한 노력을 주제로 논의했다. 그들은 AI가 선거에서 야기하는 콘텐츠의 출처를 추적하고 속이는 미디어를 탐지하며 AI가 야기하는 기만에 대비하기 위한 조치를 취하기로 약속했다. 이러한 약속들은 올바른 방향으로의 한 걸음이지만, 그 효과는 효과적인 실행에 달려 있다.
생성적 AI 기술의 출현으로 사기꾼들은 후보자와 관리자들에 대한 믿을 수 없을 만큼 현실적인 가짜 이미지, 동영상, 음성을 만들 수 있다. 이러한 창작물은 최소한의 비용으로 대규모로 신속하게 전파될 수 있다. 게다가 AI 기반 챗봇은 가짜 선거 웹사이트와 오도난 뉴스 사이트를 몇 초만에 만들어낼 수 있다. 이러한 기능은 국내외의 나쁜 주체들이 추적하기 어려운 영향력 캠페인을 벌이는 수단을 제공한다.
생성적 AI의 검색 엔진 및 챗봇 통합으로 선거 정보를 찾는 유관자들이 잘못된 정보를 마주하거나 변칙적인 웹사이트로 이끌리는 경우가 있었다. 연구에 따르면 인기 있는 AI 도구들은 선거 관련 질문에 직면했을 때 종종 성능이 나쁘다는 것이 밝혀졌다. 게다가 전통적인 AI 기술은 선거권 실현에 도전을 제시할 수 있으며, 잘못된 유통으로 선거권 명부에서 부당한 삭제로 이어질 수도 있다.
이러한 도전에 대응하기 위해 OpenAI와 같은 AI 기업들은 선거 관련 피해를 줄이기 위한 정책을 시행해왔다. OpenAI는 후보자를 흉내 내고 투표에 관한 거짓 정보를 퍼뜨리는 AI 챗봇을 만드는 것을 금지했다. 또한, 사진의 무단 사용을 탐지하기 위해 암호화 단계를 취했다. 그러나 이러한 조치에는 아직 한계가 있으며 더 많은 노력이 필요하다.
주목할 필요가 있는 한 가지 중요한 측면은 이전 선거 주기를 괴롭혔던 거짓 설명과 묘사에 대한 대처가 필요하다는 점이다. OpenAI의 정책은 선거 간섭, 신뢰할 수 없는 투표 기계, 대규모 유권자 부정행위를 거짓으로 보여주는 콘텐츠의 작성과 유포를 명시적으로 금지하지는 않는다. 이러한 범주에 명시적으로 금지를 설정함으로써 유자에 대한 보다 명확한 보호를 제공할 것이다.
타사 개발자들과의 협업은 또 다른 주목할 필요가 있는 분야이다. 제3자의 검색 엔진이 OpenAI 모델을 활용할 때 제공되는 답변은 부정확하거나 오래된 경우가 있다. 검색 엔진과 디지털 플랫폼에서 OpenAI 모델의 통합을 위한 더 엄격한 요구 사항은 투표 및 선거 정보를 찾는 유관자들을 보다 잘 보호할 것이다.
OpenAI 혼자서는 이러한 도전에 대처할 수 없다. 다른 중요한 기술 기업들도 생성적 AI 도구에 대한 자체 선거 정책을 공개하고 그들의 실천에 대해 투명해야 한다. 컨텐츠 출처 및 신뢰성에 대한 연합의 개방적인 표준은 널리 채택되어야 한다.
자주 묻는 질문
1. AI가 선거에 어떤 영향을 미치나요?
AI는 후보자와 관리자들의 가짜 미디어(이미지, 동영상, 음성)를 만들어 낼 수 있습니다. 그리고 오도난 정보를 생성하고, 잘못된 정보를 전파하며, 영향력 캠페인을 벌입니다.
2. AI 관련 위험으로부터 선거를 보호하기 위해 어떤 조치가 취해지고 있나요?
정부와 기술 기업들은 AI로 인한 콘텐츠 출처를 추적하고, 속이는 미디어를 탐지하며, AI가 일으키는 기만을 완화하는 조치를 취하기 위해 협력하고 있습니다. 그러나 더 많은 노력이 필요합니다.
3. AI 기술이 선거의 투명성에 어떤 도전을 제시하나요?
AI 기술은 오도난 정보, 투표권 문제, 거짓 이야기의 확산에 기여할 수 있습니다. 또한 검색 엔진과 챗봇을 통해 잘못된 정보를 제공할 수도 있습니다.
4. OpenAI가 선거 관련 피해를 어떻게 다루고 있나요?
OpenAI는 후보자를 흉내 내는 AI 챗봇의 생성 및 투표 관련 거짓 정보의 전파를 방지하기 위한 정책을 시행해왔습니다. 또한, 무단 사용을 방지하기 위한 사진 보호 조치를 취했습니다.
5. 다른 기술 기업들은 선거를 보호하기 위해 어떤 조치를 취할 수 있나요?
기술 기업들은 생성적 AI 도구에 대한 자체 선거 정책을 발표해야 합니다. 투명성과 협력은 선거에서 AI가 야기하는 도전에 대처하는 데 중요합니다.
(출처: [source1.com], [source2.com])
The source of the article is from the blog mivalle.net.ar