대담한 시도로 비밀번호 관리자 회사인 LastPass에 침투하려던 사이버 범죄자들은 인공 지능 기술을 활용하여 LastPass CEO인 Karim Toubba의 목소리를 모방했습니다. 사기꾼들은 Toubba를 사칭하여 가짜 WhatsApp 계정을 만들고 회사 직원에게 CEO의 목소리와 놀랍도록 유사한 음성 메시지를 보내며 대화를 시작했습니다.
고급 기술적 기만에도 불구하고, 표적이 된 LastPass 직원의 감시력과 스트레스에 대한 저항이 사기 스키매를 좌절시키는 데 중요했습니다. 상호작용이 WhatsApp에서 일반적인 전문적인 커뮤니케이션 채널에서 벗어남에 따라 직원이 의심을 가졌습니다. 더 큰 경보를 향상시키는 요인은 “강제적 긴급성”이라는 압박 전술의 사용이었는데, 사기꾸러들이 흔히 희생자를 서두르게 만들기 위해 사용하는 조종의 특징이었습니다.
이 변장은 미천하지 않은 LastPass 직원을 속이지 못했으며, 직원은 전체 대화가 꾸며진 것임을 느꼈습니다. 한편, LastPass는 사기성 접근이 방해되었고 보안 팀이 현재 사건을 조사 중임을 확인했습니다. 회사가 이번 상황의 세부 정보를 공개함으로써, 회사는 어떤 사람들이 기업 임원을 사칭하여 사기를 저질러 내기 위한 도구로서 인공 신분이 점점 더 잘 쓰이는 상황을 인식도록 높이고 있습니다.
AI를 사용한 사칭 트렌드는 LastPass에만 국한되지 않습니다. 최근 홍콩의 금융 종사자는 영국 소재 가짜 재무 이사로부터의 지시를 따라 2560만 달러를 전송했다고 믿고 있었던 동안 라이브 비디오 회의 중에 속았습니다. 이러한 사건을 고려하여 2024년 2월 8일부터 미국은 상업 기업에 의한 불요한 “콜드 콜”에서 AI 음성 봇의 사용을 금지했습니다.
현재 시장 트렌드:
인공 지능(AI) 기술의 점점 더 높아지는 정교함에 따라 사칭 사기가 더욱 발전하고 있습니다. 사이버 범죄자들이 개인을 사칭하기 위해 AI 기술을 활용한 딥페이크 오디오와 비디오를 사용하는 경향이 높아지고 있습니다. 이러한 기술은 실제 사람들의 목소리, 얼굴 표정 및 신체 언어를 모방하는 데 사용될 수 있으므로, 보통이 아닌 눈이나 귀로 가짜와 진짜를 구별하는 것이 더 어려워집니다. 결과적으로, 딥페이크 기술 남용을 탐지하고 예방할 수 있는 고급 사이버 보안 조치의 필요성이 강조되고 있습니다.
전망:
전문가들은 사이버 보안에서 AI 사용이 의심할 여지없이 확대될 것이라고 예상하고 있지만, 동시에 사이버 범죄자들에 의한 AI 사용도 그만큼 증가할 것으로 예상됩니다. 보안 전문가와 사이버 범죄자 간의 격렬한 경쟁은 한편으로는 보다 정교한 보안 프로토콜을 이끌 것이고, 다른 한편으로는 더 정교한 딥페이크 및 사칭 시도를 유발할 수 있습니다. 또한 딥페이크를 감지할 수 있는 기술에 대한 투자가 증가할 것으로 예상되며, 직원들이 정교한 피싱 시도를 인식하고 다루는데 필요한 더 견고한 교육 프로그램도 늘어날 것으로 예상됩니다.
주요 도전과 논란:
주요 도전 중 하나는 사이버 범죄자들에 의한 AI 기술의 빠른 발전에 발맞추는 것입니다. 한때 쉽게 알아볼 수 있었던 딥페이크 기술은 이제 감지하기 어렵게 발전했습니다. 뿐만 아니라, 이러한 기술을 사용하여 속이고 조작하는 데 대한 윤리적 문제들이 이러한 기술 발전과 함께 부상하고 있습니다. AI와 딥페이크의 규제에 관한 논란이 지속되고 있으며, 혁신과 개인 정보 보호의 위험을 맞서고 어떻게 균형을 맞출지에 관한 질문도 제기되고 있습니다.
이 주제와 관련된 가장 절박한 질문:
– 기업은 어떻게 AI 기반의 사칭 공격에 대비하고 자신을 보호할 수 있을까요?
– 사기에 딥페이크 기술을 사용하는 것의 법적 영향은 무엇일까요?
– 현재의 사이버 보안 조치들은 나쁜 행위자들이 신속한 AI 기술 발전과 무관하게 따라갈 만큼 충분한가요?
장단점:
사이버 보안에서 AI를 사용하는 장점은 인간보다 훨씬 빠르게 패턴, 이상, 위협을 식별할 수 있으며, 종종 실시간으로도 이루어질 수 있습니다. 이는 사기 및 위협이 피해를 입히기 전에 예방하는 데 도움이 될 수 있습니다. 그러나 단점은 동일한 기술이 사이버 범죄자들에게도 사용 가능하며, 이들이 사기와 같은 악의적인 목적으로 사용할 수 있다는 것입니다. 이것은 공격자들보다 한 발 앞서 나가려는 끊임없는 전투를 만들어내고, 사이버 보안 팀에게는 계속해서 침투로부터 빠르게 적응하도록 압력을 가하게 됩니다.
사이버 보안 및 AI 기술에 대한 더 많은 통찰력을 얻으려면 다음 링크를 방문하시기 바랍니다:
– LastPass
– 사이버 보안 및 기술 포럼
제공된 링크는 본 글 작성 시점에서 유효한 URL임을 알고 제공되었음을 유념해주시기 바랍니다. 사용자는 해당 URL을 독립적으로 확인해야 합니다.
The source of the article is from the blog qhubo.com.ni