주요 기술 기업들은 민주적 선거에 인공지능 생성된 딥페이크가 잠재적으로 방해 요소로 작용하는 문제에 대응하기 위해 자발적인 조치를 채택하기로 한 합의를 체결했다. 이 합의는 뮌헨 보안 회의에서 발표되었으며 Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI, TikTok, 그리고 일론 머스크의 X와 같은 기업들이 참여하였다.
이 합의는 크게 상징적인 의미를 지닌 것이지만, 그 목적은 점점 현실적인 인공지능 생성 콘텐츠를 대상으로 한 선거 후보자와 선거 관리자들의 외모, 음성 또는 행동을 조작하고 투표에 대한 거짓된 정보를 전파하는 것들에 대응하는 것이다. 이 기업들은 금지 조치나 삭제보다는 플랫폼에서 속임수 있는 AI 콘텐츠를 탐지하고 표시할 수 있는 방법을 도입하기로 약속하였다. 또한, 이러한 콘텐츠가 확산될 때 신속하고 적절하게 대응하기 위해 최선의 실천 방법을 공유하고 응답할 것을 약속하였다.
메타의 글로벌 사업 총괄 닉 클레그는 이러한 기술만으로는 이러한 기술이 제기하는 문제에 대응하기 어렵다고 강조하며, 공동의 행동이 필요하다고 말했다. 그러나 이 합의에 포함된 약속들은 그 강도나 구속력에 대해 비판을 받고 있다. 민주주의 활동가들과 감시 단체들은 이 자발적인 합의의 성격에 대한 우려를 표명하며, 이행 과정을 밀접히 관찰할 것이다.
이 합의는 2024년에 예정된 국가 선거의 증가와 지난 선거에서 인공지능 생성된 선거 개입 사례의 증가와 함께 발표되었다. 유럽위원회 부위원장 베라 요로바는 동료 정치인들에게 AI 도구를 속임수로 이용하지 말고 책임을 져야 한다고 촉구했다. 그녀는 AI와 정보 조작의 결합이 EU 회원국의 민주주의를 무너뜨릴 가능성이 있다고 경고했다.
이 기업들은 투명성과 교육의 중요성 또한 인식하고 있다. 그들은 사용자들에게 속임수 있는 AI 콘텐츠에 대한 정책을 알리고 인공지능 위조물에 속지 않기 위한 대중 교육을 목표로 한다. 인공지능 생성 도구를 보호하고 인공지능 생성된 콘텐츠에 표시를 할 수 있도록 조치를 취하였지만, 더 많은 조치가 필요하며 규제 기관들은 기업들에게 더 많은 노력을 요구하고 있다.
인공지능 딥페이크는 심각한 우려요소이지만, “저가 페이크”라고 알려진 기존의 오보 형태도 선거 과정에 위협을 가지고 있다는 사실을 기억하는 것이 중요하다. 소셜 미디어 플랫폼들은 인공지능 생성이냐 아니냐에 상관없이 속임수 있는 게시물에 대한 정책을 이미 시행하고 있다. 기술이 계속 진화함에 따라 민주적 선거의 진실성을 보호하기 위해 지속적인 노력이 필요하다.
FAQ: 인공지능 생성 딥페이크와 민주적 선거
Q: 주요 기술 기업들이 발표한 최근 합의란 무엇인가요?
A: 이 합의는 뮌헨 보안 회의에서 발표되었으며 Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI, TikTok, 그리고 X(일론 머스크의 회사)와 같은 기업들이 참여하였다. 이 합의는 인공지능 생성된 딥페이크가 민주적 선거를 방해할 가능성에 대응하기 위한 것이다.
Q: 합의의 주요 목표는 무엇인가요?
A: 이 합의는 점점 현실적인 인공지능 생성된 콘텐츠를 대상으로 한 선거 후보자와 선거 관리자들의 외모, 음성 또는 행동을 조작하고 투표에 대한 거짓된 정보를 전파하는 것에 대응하는 것이다.
Q: 기업들은 어떻게 속임수 있는 AI 콘텐츠에 대응할 계획인가요?
A: 이 기업들은 금지 조치나 삭제보다는 플랫폼에서 속임수 있는 AI 콘텐츠를 탐지하고 표시할 수 있는 방법을 도입하기로 약속하였다. 그리고 이러한 콘텐츠의 확산에 신속하고 적절하게 대응하기 위해 최선의 실천 방법을 공유하고 응답할 것을 약속하였다.
Q: 누가 공동 행동의 필요성을 강조했나요?
A: 메타의 글로벌 사업 총괄인 닉 클레그는 이러한 기술에 따른 도전에 대응하기 위해 공동 행동의 필요성을 강조하며, 단일한 주체만으로는 문제를 해결할 수 없다고 말했다.
Q: 이 합의에 대한 어떤 우려가 있나요?
A: 이 합의에 포함된 의무적인 요건이 부족하다고 비판받고 있다. 민주주의 활동가들과 감시 기관들은 이 합의의 자발적인 성격으로 인해 우려하며, 그 실현을 주의깊게 추적하고 있다.
Q: 왜 이 합의가 특히 관련성이 있는가요?
A: 이 합의는 2024년에 예정된 국가 선거의 증가와 지난 선거에서 발생한 인공지능 생성된 선거 개입 사례의 증가와 함께 발표되었다. 유럽위원회 부위원장은 AI와 정보 조작의 결합으로 인해 민주주의가 무너질 가능성에 대해 경고했다.
Q: 기업들은 투명성과 교육에 대해 어떤 목표를 가지고 있나요?
A: 기업들은 사용자들에게 속임수 있는 AI 콘텐츠에 대한 정책을 알리고 인공지능 위조물에 속지 않기 위한 대중 교육을 목표로 한다. 그들은 투명성과 교육의 중요성을 알아보고 있다.
Q: 인공지능 딥페이크가 민주적 선거에 대한 유일한 우려요소인가요?
A: 아니요, 기존의 오보 형태인 “저가 페이크”도 선거 과정에 위협을 가지고 있다. 소셜 미디어 플랫폼들은 인공지능 생성이냐 아니냐에 상관없이 속임수 있는 게시물에 대한 정책을 이미 시행하고 있다.
Q: 이 기사의 결론은 무엇인가요?
A: 인공지능 생성된 딥페이크와 기존의 오보 형태가 여전히 우려되는 만큼, 민주적 선거의 진실성을 보호하기 위해 지속적인 노력이 필요하다는 사실을 기억해야 한다.
The source of the article is from the blog radardovalemg.com