음성 복제 기술은 상당히 발전해와서, AI 생성 음성이 사람의 목소리와 놀랍도록 흡사해지고 있습니다. 이 기술은 최근 뉴햄프셔주 민주당 주요 선거에서 악의적으로 활용되어 유권자들에게 투표를 포기하라는 딥페이크 음성 메시지를 전달했습니다.
보도에 따르면, AI 기술은 딥페이크 프로그램을 네트워크에 급격히 유포하여 속이고 신뢰를 훼손하는 것이 가능하며, 특히 AI 생성 음성이 선거 중에 정치 후보들을 흉내내면 특히 위험할 수 있습니다.
이에 대응하여 연방통신위원회 (FCC) 의장 제시카 로젠워첼은 AT&T 및 Comcast와 같은 주요 통신사가 AI 기술을 악용한 정치 로보콜에 대해 대응하기 위해 조치를 취하도록 촉구하고 있습니다.
로젠워첼은 악의적인 주체들에 의해 AI 도구가 남용되는 것을 막기 위해 우리가 갖고 있는 모든 노력을 기울여야 한다며, “AI 기술이 나쁜 주체들과 사기꾼들에게 더 쉽게 접근 가능해지면서 우리는 이러한 위험을 네트워크에서 배제하기 위해 우리의 모든 노력을 기울여야 합니다”라고 강조했습니다.
2월에 AI 기반의 정치 로보콜, 그 밖의 모든 로보콜에 대한 금지가 시행되었지만, 주요 통신사들은 아직 어떠한 구체적인 시행 계획을 발표하지 않았습니다.
특히, 주 법무 장관들은 이 규정에 따라 AI 기반 로보콜에 관여한 자들을 기소할 권한이 주어집니다.
로젠워첼은 TV 및 라디오 광고에서 AI 사용을 공개하도록 정치 캠페인에 요구하고 있습니다. 이는 미국 뉴스 & 세계 보고서가 밝혔으며, 그러나 연방 선거 위원회 공화당 의장 션 쿡지가 잠재적인 법적 과제에 대한 우려를 제기하여 이 제안된 계획에 반대하고 있습니다.
AI 음성 복제 기술: 주요 질문과 도전
AI 음성 복제 기술의 급부상은 이 기술이 계속 발전함에 따라 사회가 다뤄야 할 수많은 질문과 도전을 제기합니다. 이전 글에서는 정치적 상황에서 AI 생성 음성의 잠재적 남용에 대해 언급했지만, 고려해야 할 추가 측면들이 있습니다.
AI 음성 복제 기술에 대해 알아두면 좋을 사실은 무엇인가요?
한 가지 잘 알려지지 않은 사실은 AI 음성 복제 기술이 정치적 맥락에만 국한되지 않는다는 것입니다. 이 기술은 엔터테인먼트, 고객 서비스, 심지어 개인 음성 어시스턴트 분야에서도 응용될 수 있습니다. 또한, AI 생성 음성의 정확성과 현실성 수준은 계속 향상되어 사람 목소리와 복제된 AI 목소리를 구별하기가 점점 어려워지고 있습니다.
AI 음성 복제 기술의 주요 장단점은 무엇인가요?
AI 음성 복제 기술의 장점에는 보이스오버 제작을 간소화하고 맞춤형 음성 경험을 만들며, 말장애가 있는 개인들을 지원하는 잠재력이 있습니다. 그러나 이 기술은 정보 선전, 개인 정보 침해, 음성 통신 신뢰의 붕괴와 같은 우려를 제기합니다.
AI 음성 복제와 관련된 주요 도전과 논란은 무엇인가요?
주요 도전 중 하나는 AI 음성 복제의 윤리적 사용입니다. 이전 글에서 언급된 정치 로보콜 사례에서 보듯이 악의적 주체들은 이 기술을 속임수에 이용할 수 있습니다. 또한, 사람의 목소리를 무단으로 복제할 수 있는 경우에는 동의와 개인 정보 보호에 관한 문제가 제기됩니다.
이러한 도전에 대처하기 위해 어떤 조치들이 취해지고 있나요?
AI 음성 복제 기술의 사용을 규제하기 위한 노력이 진행 중이며, 정치 로보콜과 같이 특정 응용 프로그램에 대한 금지 등이 그 예입니다. 그러나 주요 통신사들 사이에서 구체적인 시행 계획이 부족한 상황이 계속되고 있습니다. FCC와 같은 규제 기관은 매체 광고에서 AI 사용에 대한 정치 캠페인의 증가된 투명성을 주장하고 있으나, 규제 기관 내에서의 의견 불일치는 이 분야에서의 통치의 복잡성을 강조하고 있습니다.
요약하자면, AI 음성 복제 기술의 확산은 사회에 기회와 위험을 함께 제공합니다. 이합자들이 합성 음성 기술의 변화하는 환경을 탐색함에 있어 윤리적 고려사항, 규제적 공백 및 잠재적 남용에 대해 고려하여 AI 음성 복제가 공공 이익을 달성할 수 있도록 보장하는 것이 중요합니다.
자세한 정보는 AI 음성 복제 기술의 Wired 또는 The Verge에서 확인하십시오.