인공지능(AI)은 전 세계의 선거 캠페인에서 사용되는 강력한 도구로 자리 잡았습니다. 이뿐만 아니라 인도와 같은 나라에서도 사용됩니다. AI는 선거 과정을 혁신할 가능성이 있지만, 그 남용은 민주주의와 자격 있는 후보자의 선출에 심각한 위협을 끼칠 수 있습니다. 최근의 발전은 거짓 정보의 확산을 방지하고 선거의 투명성을 유지하기 위해 강력한 조치가 필요함을 강조하고 있습니다.
AI가 생성한 콘텐츠인 가짜 오디오 및 비디오 등이 이미 선거에서 활용되고 있습니다. Storm-1376과 같은 그룹은 특정 후보나 정당을 선호한 여론을 좌우하기 위해 AI가 생성한 콘텐츠를 유포하는 것으로 알려져 있습니다. 이러한 간섭의 정도는 대체로 알려지지 않았지만 그 영향은 상당할 수 있습니다.
걱정스러운 측면 중 하나는 정치 광고에서 딥페이크 기술과 디지털 퍼펫을 점점 더 많이 사용한다는 점입니다. 이러한 도구들은 매우 현실적이고 조작적인 콘텐츠를 생성할 수 있어서 일반 시민들이 사실과 허구를 구별하기 어려워집니다. 조 바이든과 같은 정치 인물의 목소리를 모방한 속이는 전화 통화는 이미 미국에서 신고된 바 있으며, AI가 유관희자를 속일 수 있는 용이함을 보여주고 있습니다.
핵심 질문
– 인공지능이 선거 과정에 미치는 영향은 무엇인가요?
– 가짜 정보 및 딥페이크 기술이 어떻게 선거에 영향을 미치는가?
– 선거에서 AI 남용에 대응하기 위한 대책은 무엇인가?
– 외부 개입의 가능성은 무엇이며, 이를 방지하기 위한 전략은 어떤 것이 있나요?
인도는 결정적인 선거 기간에 진입할 예정이며, 이러한 도전에 면역성을 갖추지 못하고 있습니다. 선거를 앞두고 소셜 미디어 플랫폼은 예상대로 다양한 메시지의 폭풍우를 겪게 될 것입니다. 그 중 많은 것들이 AI를 사용하여 삽입될 가능성이 높습니다. 잘못된 정보와 선정적인 메시지는 WhatsApp과 같은 플랫폼을 통해 빠르게 확산될 수 있어서 현지 언어로 잘못된 정보를 전달할 수 있습니다.
인도 선거 위원회(ECI)는 거짓과 미지원된 콘텐츠의 확산을 억제하기 위한 지침을 발표했지만, 이러한 대책의 효과는 불확실합니다. 소셜 미디어를 통해 비방적인 메시지와 소문이 계속해서 퍼져 공공의 선거 프로세스에 대한 신뢰를 높였습니다.
특히 중국을 비롯한 외부 개입 가능성이 이러한 도전을 더 복잡하게 만들고 있습니다. 북한이나 파키스탄과 같은 국가의 해커들은 인도 선거를 가짜 뉴스를 퍼뜨리고 혼란을 조장하는 기회로 볼 수도 있습니다. 딥페이크 기술과 디지털 퍼펫은 신뢰할 수 있는 목소리 오버와 함께 영향력 있는 인물을 겨냥하여 악의적인 선전을 전파하는 데 활용될 수 있습니다.
인도 선거에서 사용되는 전자 투표 기기(EVMs)의 신뢰성도 논란이 되고 있습니다. EVMs는 안전하다고 간주되지만, 외국의 힘이 체계에 해킹을 시도하거나 저장된 데이터를 손상시키려 할 수 있다는 우려가 있습니다. 선거 과정의 조작은 선거 결과의 공정성과 신뢰성을 훼손할 수 있습니다.
선거에서 AI의 남용에 대응하려면 다각적인 접근이 필요합니다. 선거 기간 동안 인터넷 접속을 완전히 거부하는 것은 극단적인 조치일 수 있지만, 시민들은 AI 간섭의 영향을 최소화하는 데 중요한 역할을 할 수 있습니다. 소셜 미디어 플랫폼에서 미지원된 비방적인 메시지를 확산하지 않음으로써 개인들은 더 많은 정보와 투명한 선거 논의에 기여할 수 있습니다.
또한, 선거 당국은 계속해서 AI 기술의 진화에 맞는 예방적 조치를 취해야 합니다. 사이버 보안에 대한 투자를 늘리고 소셜 미디어 플랫폼을 엄격히 모니터링함으로써 거짓 정보의 확산을 식별하고 방지할 수 있습니다. 대중들을 AI 간섭의 잠재적 위험에 대해 교육시키고 정치적 콘텐츠를 소비할 때 비판적 사고를 장려하는 공개 인식 캠페인 또한 선거에 문제가 될 수 있는 가능성을 때때로 파악하고 인포머드 시민이 선거의 정의를 유지하면서 민주주의의 기반을 보호할 수 있습니다.
The source of the article is from the blog publicsectortravel.org.uk