OpenAI는 인기 챗봇 ChatGPT를 만든 것으로 유명한 OpenAI가 음성 어시스턴트 산업에 큰 발을 내디뎠습니다. 회사는 최근 혁신적인 Voice Engine 기술을 선보였는데, 이 기술은 사람의 목소리를 클론할 수 있습니다. 그러나 이 첨단 기술은 현재 잠정적으로 공개되지 않을 예정인데, 잠재적인 남용 우려 때문입니다.
OpenAI의 Voice Engine은 개인이 말하는 15초 오디오 녹음을 기반으로 정확하게 그 목소리를 복제할 수 있습니다. 회사는 특정 초기 테스터들에게 미리보기를 제공할 계획이지만, 기술이 널리 공개되는 것에 대해서는 신중함을 유지하며 내재적으로 내포된 리스크를 인식하고 있습니다. OpenAI는 특히 선거 연도에 개인의 목소리와 매우 유사한 발언을 생성하는 위험성을 염두에 두고 있으며 이는 악용될 우려가 있습니다.
오클랜드 소재의 회사에서 최근 발표한 입장문에서 OpenAI는 음성 클론 기술과 관련된 심각한 위험성을 인지하고 있음을 강조했습니다. 뉴햄프셔 주 대통령 선거 예비 선거 중에 발생한 불행한 사건은 유권자들이 대통령 조 바이든을 흉내 내는 인공지능 생성 목소리를 포함한 로보콜을 받았던 사례로서, 이러한 기술의 잠재적인 남용을 강조합니다. 여러 스타트업은 이미 대중이나 엔터테인먼트 스튜디오와 같은 특정 비즈니스 기업에게 접근 가능한 음성 클론 기술을 제공하고 있지만, OpenAI는 안전과 책임있는 사용에 중점을 두고 있습니다.
윤리적인 사용을 보장하기 위해 OpenAI는 기술을 보호하기 위한 조치를 취했습니다. 초기 Voice Engine 테스터들은 동의 없이 누군가를 흉내 내지 않기로 약속하고 인공지능 생성 목소리임을 공개해야 합니다. 이 책임 있는 접근은 신원 도용이나 다른 악의적인 행동과 관련된 잠재적인 피해를 완화하기 위한 것입니다.
OpenAI의 발전 곡선은 이전의 전략적 접근과 일치합니다. 회사는 이전에 출시 없이 비디오 생성기 Sora를 발표했지만, 3월에 제출된 상표 출원은 OpenAI가 음성 인식 및 디지털 음성 어시스턴트 기술을 더 탐구할 의도를 가지고 있음을 나타냅니다. 이러한 혁신을 개선하며 계속해서 발전함으로써 OpenAI는 아마존의 Alexa와 같은 기존 음성 제품과 경쟁할 준비를 하고 있습니다.
자주 묻는 질문
The source of the article is from the blog elblog.pl