미국 국립표준기술연구소(NIST)의 최근 보고서는 인공지능(AI) 시스템의 증가하는 배치로 인해 발생하는 개인 정보 보호 및 보안 도전에 대한 우려를 강조하고 있습니다. AI 기술은 온라인 서비스에 빠르게 통합되고 있지만, 이러한 시스템은 운영 중 다양한 단계에서 심각한 위협에 직면하고 있습니다.
NIST는 훈련 데이터의 잠재적인 적대적 조작, AI 모델의 취약점 악용 및 이러한 모델과의 악성 상호작용으로 인해 민감한 정보가 유출될 수 있다고 경고합니다. 이러한 위험은 AI 시스템의 가용성, 무결성 및 개인 정보 보호에 심각한 영향을 미칠 수 있습니다.
특히 OpenAI ChatGPT 및 Google Bard와 같은 챗봇 기술에 대한 우려가 있습니다. 이러한 시스템은 조심스럽게 설계된 언어로 유도될 때 유독한 정보나 잘못된 정보를 생성할 수 있으므로 악용 공격에 대한 견고한 방어가 중요합니다.
보고서는 AI 시스템에 대한 공격을 회피 공격, 독성 공격, 개인 정보 공격 및 악용 공격으로 분류합니다. 이러한 공격은 대상 AI 시스템에 대한 지식 수준에 따라 위협 주체가 실행할 수 있습니다.
NIST는 이러한 위험을 효과적으로 완화하기 위한 충분한 조치의 부재를 인정하며, 기술 커뮤니티에 보다 강력한 방어책 개발을 촉구합니다. 이 행동 요청은 영국, 미국 및 국제 파트너가 최근 발표한 지침과 일치하여 안전한 AI 시스템의 개발을 보장하기 위한 것입니다.
NIST의 컴퓨터 과학자인 아포스톨 바실레프(Apostol Vassilev)는 아직 해결되지 않은 AI 알고리즘의 이론적 도전을 강조하였습니다. 중대한 실패와 가중된 결과의 가능성을 감안할 때, AI 시스템의 개인 정보 보호 및 보안 위험에 대처하는 것이 매우 중요합니다.
AI 시스템의 배치가 계속 확대되는 가운데, 개발자, 연구자 및 정책 결정자들은 적대적 공격에 대한 견고한 보안 조치의 구현을 우선시해야 합니다. 이를 통해 사용자의 개인 정보를 보호할 수 있습니다.
The source of the article is from the blog agogs.sk