기업들이 직면하는 AI-기반 신원 사기와 딥페이크의 새로운 물결
인공지능(AI)은 소비자 및 기업 부문에서 중요한 주제가 되었지만, 그 증가와 함께 사이버 공격 및 데이터 침해를 위해 사기꾼들에 의해 더 많은 남용 가능성이 따라옵니다. 최근 몇 년 동안 AI를 이용한 사기 및 딥페이크가 급증하여, 이러한 유형의 사기를 감지하고 예방하기 어려운 기업과 소비자들에게 도전을 제공합니다.
최근 데이터에 따르면, 기업들 중 1/3가 AI-기반 사기를 경험한 적이 있으며, 80% 이상이 이를 심각한 위협이라고 여기고 있습니다. 실제와 가짜 신원 요소를 혼합한 합성 신원 사기가 가장 일반적으로 나타나며, 기업들의 46%가 영향을 받았습니다. 다른 기업들은 정교한 음성 모방 사기를 경험한 경우도 있으며, 37%가 그러한 사고를 보고했습니다. 덥페이크 동영상은 덜 흔하지만 조사된 기업의 29%를 속였습니다.
사기꾼들은 AI의 발전으로부터 크게 이득을 얻어 일반적인 사이버 범죄자에서 고급 공격자로 이동할 수 있었습니다. 그들은 점점 더 쉽게 생성되고 감지하기 어려운 설득력있는 실감나는 딥페이크를 만듭니다. 유명한 사건 중 하나는 가짜 “금융 이사”와의 비디오 통화 후 2500만 달러를 송금한 금융부문 직원이 포함되었습니다.
미국, 영국, 프랑스 및 독일의 1,000 명 이상의 사기 탐지 전문가를 조사한 신원 확인 서비스 제공업체인 Regula의 조사 결과, 이러한 AI-기반 사기가 얼마나 보편화된 것인지를 보여 주었습니다. 이 조사는 또한 이러한 전문가들의 80% 이상이 이러한 AI-기반 합성 신원 도용, 음성 모방 및 딥페이크가 기업에 심각한 위협이라고 믿는다는 긴급한 문제를 강조하고 있습니다.
사기꾼들이 점점 더 정교한 공격을 위해 AI 도구를 활용함에 따라 세계적인 사이버 범죄 비용이 전례없이 급증하고 있습니다. Statista Market Insight의 보고서에 따르면, 2024년까지 세계적인 사이버 범죄 비용은 지난해 대비 1조 달러 증가한 9.2조 달러에 이를 것으로 예측됩니다. 놀랍게도, 연간 비용은 이어지는 몇 년 동안 70% 증가할 것으로 예상되며, 2028년까지 13.8조 달러에 달하는 잠재적 비용이 발생할 것입니다.
AI-활성 사기의 증가하는 위협
인공지능(AI)은 혁신을 촉진하는 데 그치지 않고 사이버 범죄자들이 더 정교한 사기를 저지르도록 돕고 있습니다. AI가 다양한 응용 프로그램에 통합되면서 합성 신원 및 딥페이크 콘텐츠를 포함한 AI-기반 사기 시도가 급증했습니다. 이러한 사기 활동은 기업과 소비자 양쪽에 대한 중요한 우려 요인입니다.
주요 질문과 답변:
– AI-활성 사기란 무엇인가요? AI-활성 사기는 AI 기술의 도움으로 실시된 불법 활동을 가리킵니다. 이는 합성 신분증 및 딥페이크 비디오 생성부터 정교한 음성 모방 사기까지 다양합니다.
– 왜 AI-활성 사기가 증가하고 있나요? AI 기술의 접근성과 발전은 범죄자들이 정교한 사기를 수행하는 것을 쉽게 만들었습니다. AI는 인간의 행동, 언어 및 외모를 모방하기 위해 엄청난 양의 데이터를 처리할 수 있으며, 이로 인해 더 그득한 사기가 발생합니다.
– 기업은 어떻게 자신을 보호할 수 있나요? 기업은 이러한 위협에 대항하기 위해 AI를 활용하는 고급 사기 탐지 시스템에 투자하고, 정기적인 직원 교육을 실시하며, 최신 보안 프로토콜을 따르는 것으로 스스로를 보호할 수 있습니다.
주요 도전:
AI 기술의 빠른 발전은 효과적인 보안 조치를 유지하는 데 지속적인 도전을 제기합니다. AI가 더욱 정교해짐에 따라 사기 방법도 더욱 정교해지므로, 기업은 방어 전략을 지속적으로 조정해야 합니다.
논란:
AI의 윤리적 영향과 AI 개발자 및 사용자들이 남용을 방지하기 위한 책임에 대한 논의가 계속되고 있습니다. 규제가 AI 개발 속도에 뒤처지고 있어서 AI 사용을 규제하는 가장 좋은 방법에 대한 논의가 이어지고 있습니다.
장단점:
AI의 역할은 사기에 있어 이익과 단점을 갖습니다. 사이버 범죄자들에게는 사기를 저지르는 데 효율성이 증가하고 검출 가능성이 감소하는 장점이 있습니다. 반면에, 사기 탐지에 AI를 활용하는 기업은 보안을 강화할 수 있지만, 계속 발전하는 위협에 대비하기 위한 정기적인 업데이트와 잠재적인 개인 정보 침해에 대한 비용이 따릅니다.
관련 주제는 기업에 미치는 직접적인 영향을 넘어서고 있습니다. 공헌, 심오한 사회적 영향이 AI 남용을 통한 대중 의견 조작과 디지털 미디어 신뢰의 교란과 관련된 주제도 제기되고 있습니다.
AI에 관한 확신할 만한 도메인에서 AI 기술을 논의하는 미디어를 참조할 수 있습니다.
– MIT Technology Review
– Google AI
– IBM AI
– DeepMind
AI-활성 사기의 증가하는 위험을 완화하기 위해 이해 관계자들은 방어적인 AI 조치를 계속 발전시키고 견고한 감지 시스템을 수립해야 하며, 사이버범죄자들이 개발한 진화하는 방법에 대항하기 위한 공공 인식과 교육이 동등하게 중요합니다.
The source of the article is from the blog mendozaextremo.com.ar