대부분의 기업은 인공 지능(AI)의 발전을 사이버 보안 위협으로 여기고 있습니다, 이는 전년 대비 상당한 증가입니다. 이 새로운 우려는 특히 대기업들 사이에서 두드러집니다. 이 발견은 ABN Amro와 MWM2 연구소가 실시한 895개 조직을 대상으로 한 설문조사에서 나온 것입니다.
‘사회 공학’ 분야에서, AI가 특히 우려스러운 부분이 되고 있습니다. 여기에서 개인들은 심리적으로 조종되어 기밀 정보를 누설하거나 해를 끼치도록 유도됩니다. AI 기술은 더 정교한 방법으로 속일 수 있는 능력을 향상시키고 있습니다. 예를 들어, 생성형 AI는 손쉽게 속임수 이메일을 만들어내며, 피싱과정을 간소화하여 더 자주 발생하고 특정 대상을 공격할 가능성을 고무시킬 수 있습니다. IBM X-Force의 연구에 따르면, 생성형 AI는 피싱 이메일 작성에 소요되는 시간을 몇 시간에서 단 몇 분으로 줄입니다.
게다가, 대화형 AI 시스템은 민감한 로그인 정보를 추출하거나 금융 거래를 유도할 수 있는 자동화된 채팅을 수행하는 데 사용되고 있습니다. 게다가, ‘딥페이크’ 기술은 음성 또는 시각 자료를 조작하여 피해자들이 신뢰할 만한 연락처와 소통하고 있는 것으로 오해하도록 만들 정도로 생동감 있게 제작하기 때문에, 실제로는 사기꾼과 소통하고 있을 수 있습니다. 이런 신빙성 있는 AI 기반 속임수 도구들의 급증으로, 사이버 보안 환경에서 빨려들이는 비수와 대응하기 어려워지고 더 사악해지는 것을 보여주고 있습니다.
신뢰성있고 유망한 AI 사이버 보안 우려: AI가 더 정교해지면, 사이버 범죄자들이 더 효과적이고 파괴적인 공격을 수행하는 데 활용될 수 있습니다. 이런 우려와 관련된 일부 주요 질문과 답변은 다음과 같습니다:
Q: AI는 어떻게 사이버 보안 위협을 악화시키나요?
A: AI는 사이버 공격 실행을 자동화하고 최적화하여 이를 더 효율적이고 감지하기 어렵게 만듭니다. 예를 들어, 신속하게 피싱 이메일을 생성하거나 보안 시스템 우회를 위해 기계 학습을 사용하여 공격을 맞춤화할 수 있거나 소셜 엔지니어링을 위한 매우 신뢰할 만한 딥페이크를 생산할 수 있습니다.
Q: 사이버 보안 방어에 AI를 사용하는 데 어떤 도전이 있나요?
A: AI는 개선된 위협 탐지 및 대응 능력을 제공하지만, 대량의 데이터셋을 훈련하기 위한 필요성, 적응적인 적대자에 속아거나 무시당하기 쉬운 AI 시스템, AI 시스템이 개인정보나 윤리적 가이드라인을 위반하지 않도록 하는 것과 같은 도전이 있습니다.
주요 도전이나 논쟁 사항:
– 윤리적 파급효과: 해롭게 사용될 수 있는 AI의 잠재적인 남용은 AI 기술의 개발과 배포에 대한 윤리적인 문제를 제기합니다.
– 개인정보보호: 사이버 보안을 위해 개인 데이터를 처리하는 AI 시스템은 개인정보 보호 문제를 도출하며, 데이터 침해 또는 민감한 정보 남용의 위험을 증가시킬 수 있습니다.
– 책임성: 특히 보안 위협 발생 시 AI 시스템의 책임을 결정하는 것은 논란스럽고 복잡할 수 있습니다.
장단점:
– 장점: AI는 위협 탐지의 자동화, 사건에 빠르게 대응하며 미래 위협을 예측하는 예측 분석을 통해 사이버 보안을 크게 향상시킬 수 있습니다.
– 단점: 대규모 데이터셋에 의존하는 AI는 개인 정보 보호 우려를 도출할 수 있으며, 적절하게 관리되지 않으면 AI 시스템이 새로운 취약성이나 적대자에 의해 악용될 수 있는 편향을 소개할 수 있습니다.
AI와 사이버 보안에 대한 자세한 정보와 통찰력을 얻으려면 다음과 같은 사이버 보안에 중점을 둔 신뢰할 수 있는 기관 및 연구 단체를 참고해 주세요:
– 사이버 보안 및 인프라 보안국(CISA): CISA
– 미국 국립표준기술연구소(NIST): NIST
– 유럽 연합 사이버 보안 기구(ENISA): ENISA
– 국제 암호학 연구협회(IACR): IACR
사이버 보안에서 AI를 도입할 때, 혁신과 주의를 균형있게 유지하여, 발전이 책임 있게 활용되도록하고 부가적 위험을 낙관적으로 만들지 않도록하는 것이 중요합니다.
The source of the article is from the blog jomfruland.net