AI 기술의 발전으로 전통적인 전화 사기가 매우 정교한 작업으로 변모하고 있습니다. 사이버 보안 전문가들은 사기꾼들이 전화 대화를 녹음하여 금전 사기를 용이하게 하고 정치를 혼란스럽게 하는 증가하는 추세를 목격해왔습니다. 몬애쉬 대학교 사이버 보안 책임자인 모니카 위티 교수는 이러한 범죄자들이 숨겨진 전화 번호를 통해 간단한 대화를 시작한 뒤 가짜 목소리를 위해 피해자의 목소리를 재현하는데 인공지능을 활용한다고 설명했습니다.
이러한 합성 음성 복제, 일명 “딥페이크 오디오”는 의식하지 않은 피해자들을 속이는 데 점점 더 효과적으로 사용되고 있습니다. AI가 목소리 모방 기술을 발전시킴에 따라 사기꾼들의 무기가 강화되어 텍스트에서 더 설득력 있는 목소리 교환으로 전환되었습니다. 이러한 변화는 표적과의 가짜 신뢰 구축뿐만 아니라 로맨스나 투자 사기에 빠질 위험도 증가시킵니다.
RMIT 대학의 샤리아르 카이사르 교수는 YouTube나 TikTok과 같은 플랫폼에서 음성 샘플이나 비디오 영상을 수집하기 쉬운 점에 우려를 표했습니다. 그는 온라인에서 공유된 개인 콘텐츠에 대해 신중함을 당부하며, 이는 AI가 정확한 가디언 합성을 제작하는 데 도움이 될 수 있다고 강조했습니다.
전문가들은 능동적인 주의와 신중한 공유 방법을 권장하며, 목소리 클로닝과 관련된 위험을 완화하기 위한 조치가 필요하다고 말했습니다. 위티 교수는 확인되지 않은 연락처와의 대화를 최소화하고, 긴급 상황을 확인하기 위해 다른 통신 방법을 통해 진위를 확인하는 것을 제안했습니다.
한편 호주 정부는 민감한 이미지의 딥페이크 불법 유포를 처벌하는 새로운 입법안을 발표했습니다. 이 법안이 통과되면 가해자들은 최대 7년의 징역형을 받을 수 있으며, 이는 이 새로운 사이버 위협의 심각성을 강조합니다.
합성 목소리 사기 대응에서의 인식 및 교육의 중요성
합성 목소리 사기의 증가는 대중의 인식과 교육이 증대되어야 하는 문제로, 피해자들은 종종 해당 기술과 그 남용 가능성을 인지하지 못합니다. 이러한 사기를 인식하고 피하는 방법에 대한 대중 교육이 기술적인 해결책 개발만큼 중요합니다.
합성 목소리 사기 탐지와 방지에서의 과제와 논란
주요 과제 중 하나는 실제 목소리와 합성 목소리를 구별하는 것이 어렵다는 점입니다. AI 기술이 발전함에 따라 딥페이크 오디오는 더욱 신뢰성 있는 기술이 되어, 인간 귀와 기존 기술 솔루션으로는 탐지가 더욱 어려워졌습니다. 프라이버시 걱정에 대한 논란도 발생하는데, 사기에 사용되는 같은 기술이 엔터테인먼트나 언어 장애를 가진 개인들을 돕는 것과 같이 합법적인 목적으로 활용될 수 있기 때문입니다.
합성 목소리 기술의 장단점
합성 목소리 기술의 장점으로는 질병이나 사고로 목소리를 잃은 사람들을 돕는 데 도움을 주거나, 가상 비서를 위한 사실적인 목소리를 만들거나, 독해 장애가 있는 사람들에게 접근성을 개선하는 데 도움이 됩니다. 그러나 단점은 금전 손실이나 정서적 고통을 야기하는 사기에 남용될 수 있어 의사소통에 대한 신뢰를 훼손시키고 보안 위험을 초래할 수 있습니다.
합성 목소리 기술 및 사이버 보안에 대해 더 알고 싶다면 호주 사이버 보안 센터나 국제형사경찰기구 INTERPOL 등의 신뢰할 만한 도메인을 방문하실 수 있습니다. 사이트를 방문하기 전에 URL을 확인해 안전하고 공식적인 웹사이트인지를 항상 확인하세요.
The source of the article is from the blog lokale-komercyjne.pl