AI-생성 위협의 출현
사이버 위협의 풍경은 생성 AI의 등장과 함께 변화하고 있습니다. 전문가들은 피싱 이메일의 생산과 악성 코드의 생성이 급증할 것으로 예측하며, 이 가속화를 생성 AI의 기능과 연관시킵니다. 이러한 추세는 전 세계의 연구에서 반영되며, 이러한 AI 기술의 등장 이후 공격 건수의 현저한 증가가 따라왔습니다.
피싱 전술의 에스컬레이션
통신 및 보안 소프트웨어에 특화된 스웨덴 기업인 Enea의 보고서에 따르면, 2022년 11월 ChatGPT의 도입 이후 피싱 공격(스미싱 및 비싱 포함)이 10배 이상 증가했습니다. “비싱”은 전화를 통해 수행되는 사기를 의미합니다.
AI 위협의 지속적인 진화
공격 건수가 급증함에 따라 그들이 일으킬 수 있는 잠재적인 피해도 증가합니다. 현재 연구에 따르면 인간이 제작한 피싱 이메일이 AI가 생성한 것보다 더 정교합니다. 그러나 미래가 무엇을 가지고 있는지는 여전히 불투명합니다. AI는 끊임없이 작업을 수행하며, 시간이 지남에 따라 그 결과물을 개선하여 점점 복잡해지는 피싱 이메일을 대규모로 배포할 수 있게 됩니다. 현재 AI 생성 이메일이 어느 정도 사용되고 있는지는 알 수 없지만, 위협 요소가 AI를 활용하여 공격 소수를 증가시키고 있는 것으로 보입니다.
사이버 보안의 경쟁
사이버 보안에서는 공격이 주도적이며, 일반적으로 공격자는 방어자가 반응적으로 적응해야 하는 새로운 전략으로 나서는 경우가 많습니다. 공격자들이 일반적으로 “가드레일”로 불리는 윤리적 제약 없이 생성 AI를 사용할 수 있는 기회는 공격에 있어서 적극적인 우위를 제공합니다.
전략적 사이버 방어의 필요성
반면에 방어자들은 “가드레일”이 있는 AI를 사용하도록 제한되어 있어 사용자 기업들이 불리한 입장에 놓이게 됩니다. 기업들은 “생성 AI 대 생성 AI” 시대가 도래했음을 인지하고 사이버 방어를 준비해야 합니다. 게다가, 생성 AI 규제에 대한 사회적 합의가 중요합니다. 현재의 불균형 상황에서 제한된 AI가 제한 없는 AI 남용에 충분히 대응할 수 있는지, 규정들이 재고되어야 하는지에 대해 논의할 필요가 있습니다. NTT Data Group의 보안 분석가인 Yu Arai는 이 중요한 검토가 더 안전한 디지털 환경을 위해 필수적이라고 제안했습니다.
본문은 생성 AI의 등장과 사이버 공격 증가 사이의 연결, 피싱에 초점을 맞춘 AI 생성 사이버 위협의 진화, 사이버 보안의 경쟁, 그리고 전략적 사이버 방어에 대해 이야기합니다.