음성 복제 기술은 상당히 발전하여 AI 생성 음성이 인간 음성과 무척 유사해지고 있습니다. 이 기술은 최근 뉴햄프셔의 민주당 주요 선거에서 민주당에게 선거 운동하는 투표자들에게 투표소에 가지 말라는 딥페이크 음성메시지를 이용해 악용되었습니다.
보고서에 따르면 AI 기술은 기본적으로 속이고 신뢰를 훼손시키도록 설계된 딥페이크 프로그램을 네트워크로 증발시킬 수 있으며, 특히 AI 생성 음성이 선거 기간에 정치인들을 흉내내는 경우에는 특히 위협을 가할 수 있습니다.
이에 대응하여 연방 통신위원회(FCC) 의장 Jessica Rosenworcel은 주요 통신사 AT&T와 Comcast와 같은 회사들이 AI를 이용한 정치 로보콜에 대한 조치를 취할 것을 촉구하고 있습니다.
Rosenworcel은 악의적인 주체들에 의해 AI 도구의 남용을 막기 위해 노력이 필요하다며, “AI 기술이 나쁜 주체와 사기꾼에게 접근하기 쉬워질수록, 우리는 이러한 위험요소들을 네트워크 외부로 배제하기 위해 우리의 능력을 최대한 발휘해야 합니다.”라고 말했습니다.
2월에 AI-기반 로보콜 전면 금지가 시행되었지만, 주요 통신사는 집행에 대한 구체적인 계획을 아직 발표하지 않았습니다.
특히, 주 법무장관은 이 법안에 따라 AI-기반 로보콜에 연관된 사람들을 기소할 권한을 가지고 있습니다.
Rosenworcel은 미국 뉴스&월드 리포트에 의해 밝혀진바와 같이, 정치 캠페인이 TV 및 라디오 광고에서 AI 사용을 공개하도록 권고하고 있습니다. 그러나 연방 선거위원회의 공화당 의장인 Sean Cooksey가 잠재적인 법적 문제 우려를 들어 반대의견을 표명했습니다.
AI 음성 복제 기술: 중요한 질문과 도전과제 다루기
AI 음성 복제 기술의 발전은 이 기술이 계속 발전함에 따라 사회가 직면해야 할 여러 질문과 도전과제를 제시하고 있습니다. 이전 글에서는 정치적 상황에서 AI 생성 음성의 남용 가능성에 대해 언급했지만, 고려해야 할 추가적인 측면이 있습니다.
AI 음성 복제 기술에 대해 잘 알려지지 않은 사실들은 무엇인가?
한 가지 잘 알려지지 않은 사실은 AI 음성 복제 기술이 정치적 맥락에만 국한되지 않는다는 점입니다. 이 기술은 엔터테인먼트, 고객 서비스, 심지어 개인 음성 비서에도 응용될 수 있습니다. 또한, AI 생성 음성의 정확성과 현실성 수준은 계속해서 향상되고 있어서 인간 음성과 복제된 AI 음성 간을 구별하는 것이 어려워지고 있습니다.
AI 음성 복제 기술의 주요 장단점은 무엇인가?
AI 음성 복제 기술의 장점은 성우 영상 제작을 간소화할 수 있는 잠재력, 사용자 정의 음성 경험을 만들 수 있는 점 및 언어 장애가있는 개인들을 지원하는 능력 등이 있습니다. 반면, 이 기술은 잘못된 정보, 프라이버시 침해 및 음성 커뮤니케이션에서의 신뢰 훼손에 대한 우려를 불러일으킵니다.
AI 음성 복제와 관련된 주요 도전과 논란은 무엇인가?
한 가지 주요 도전은 AI 음성 복제의 윤리적 사용입니다. 이전 글에서 언급된 정치 로보콜 사례에서 확인할 수 있듯이, 악의적 주체들은 이 기술을 위조 목적으로 남용할 수 있습니다. 누군가의 음성이 그들의 동의나 허가없이 복제될 때 개인 정보 보호와 동의 문제가 발생합니다.
이러한 도전에 대해 대처하기 위해 무엇이 이루어지고 있는가?
AI 음성 복제 기술의 사용을 규제하기 위한 노력이 진행 중이며, 정치 로보콜과 같은 특정 응용프로그램에 대한 금지 조항이 있습니다. 그러나 주요 통신사들이 구체적인 강제 계획을 발표하지 않는다는 점에서 여전히 부족점이 남아 있습니다. 연방 통신위원회와 같은 규제기관은 언론 광고에서 AI 사용에 대한 정치 캠페인의 투명성을 촉구하고 있으며, 규제 기구 내의 의견 상이가 이 분야의 규제의 복잡성을 강조하고 있습니다.
마무리로, AI 음성 복제 기술의 전파는 사회에 기회와 위험을 동시에 제공합니다. 이러한 합성 음성 기술의 진화하는 풍경을 이해하는 주체들은 윤리적 고려사항, 규제 공백 및 잠재적인 남용에 대처하여 AI 음성 복제가 공공 이익을 위해 기능하도록 해야 합니다.