음성 복제 기술은 상당히 발전되어 AI가 생성한 목소리가 인간 목소리와 무척 유사해지고 있습니다. 최근 민주당의 뉴햄프셔 주 초선 선거에서 이 기술이 악용되어 유권자들에게 선거 투표를 건너뛰라고 유도하는 딥페이크 음성 메시지가 있었습니다.
보도에 따르면 AI 기술은 속임수를 일으키고 신뢰를 침해하는 딥페이크 프로그램을 네트워크에 쏟아부을 수 있으며, 특히 AI 생성 목소리가 선거 중 정치 후보를 가장하는 경우에는 특히 위협적입니다.
이에 대응하여 연방통신위원회(FCC) 의장 제시카 로젠워셀은 주요 통신업체인 AT&T나 Comcast와 같은 회사들이 AI를 이용한 정치 로보콜에 대응하기 위해 조치를 취할 것을 촉구하고 있습니다.
로젠워셀은 “AI 기술이 나쁜 행위자와 사기꾼들에게 더 접근 가능해지면서, 우리는 이러한 위협이 우리의 네트워크로 들어오지 못하도록 가능한 모든 조치를 취해야 한다”며 악용되는 AI 도구와의 싸움의 필요성을 강조했습니다.
2월에는 정치나 기타 목적의 모든 AI 기반 로보콜에 대한 금지 조례가 시행되었지만, 주요 통신업체는 집행 계획을 아직 발표하지 않았습니다.
특히, 주 법무부장관은 AI 기반 로보콜에 관련된 사람들을 처벌할 권한이 주어집니다.
로젠워셀은 ‘미국 뉴스 & 월드 레포트’에서 발표된 바에 따르면, 정치 캠페인들이 TV와 라디오 광고에서 AI 사용을 공개하도록 요구하고 있습니다. 그러나 FEC 의회의 공화당 의장 션 쿡시는 잠재적인 법적 도전에 대한 우려를 제기하면서 이 제안된 계획이 반대를 받고 있습니다.
AI 음성 복제 기술: 주요 질문과 도전
AI 음성 복제 기술이 급부상함에 따라 사회가 이 기술이 계속 발전함에 따른 문제와 도전에 대처해야 할 수많은 질문과 도전에 직면하게 됩니다. 이전 기사는 정치적 상황에서 AI 생성 목소리가 악용될 수 있는 가능성에 대해 소개했지만, 고려해야 할 추가적인 측면들이 있습니다.
AI 음성 복제 기술에 대해 잘 알려지지 않은 사실들
한 가지 잘 알려지지 않은 사실은 AI 음성 복제 기술이 정치적 맥락에 국한되지 않는다는 것입니다. 이 기술은 엔터테인먼트, 고객 서비스, 심지어 개인 음성 비서에도 활용될 수 있습니다. 또한, AI 생성 목소리의 정확도와 현실성 수준은 지속적으로 향상되어 사람의 목소리와 클론된 AI 목소리를 구분하기 어렵게 만들고 있습니다.
AI 음성 복제 기술의 주요 장단점
AI 음성 복제 기술의 장점은 목소리덮에 생산을 간소화하고, 사용자 정의 음성 경험을 만들고, 발음 장애가 있는 개인들에게 도움을 줄 수 있는 잠재력을 포함합니다. 반면, 이 기술은 정보 오류, 개인정보 침해 및 음성 통신 신뢰의 하강과 같은 우려를 제기합니다.
AI 음성 복제 기술과 관련된 주요 도전이나 논란은?
하나의 주요 도전은 AI 음성 복제의 윤리적 사용입니다. 이전 기사에서 언급된 정치 로보콜 사례에서와 같이, 악의를 품은 행위자들이 이 기술을 속임수에 악용할 수 있습니다. 또한, 누군가의 목소리가 그들의 동의나 허가 없이 복제될 때 동의와 개인 정보 문제가 발생합니다.
이러한 도전에 대처하기 위한 조치는 무엇입니까?
AI 음성 복제 기술의 사용을 규제하려는 노력이 진행 중이며, 정치 로보콜과 같은 일부 응용프로그램에 대한 금지 등이 있습니다. 그러나 주요 통신업체들은 구체적인 집행 계획이 없는 등 여전히 부족한 점이 있습니다. FCC와 같은 규제 기관은 정치 캠페인이 매체 광고에서 AI 사용에 대한 더 큰 투명성을 요구하고 있으나, 규율 기관 내의 논쟁은 이 분야의 지배 복잡성을 강조합니다.
결론적으로, AI 음성 복제 기술의 확산은 사회에 기회와 위험이 함께 전달됩니다. 이 합성 음성 기술의 변화하는 환경에서 이해관계자들이 윤리적 고려 사항, 규제적 공백 및 잠재적인 악용을 다루어 AI 음성 복제가 공공 이익을 서빙하도록 보장해야 합니다.