법 집행 기관은 인공지능(AI)에 의해 생성된 어린이를 대상으로 한 학대 및 성적인 콘텐츠의 기소에 중대한 어려움을 겪고 있습니다. 하원 감사 하원 부속 소위원회 회의에서 Anna Paulina Luna 의원(R-Fla.)은 이 문제를 살펴보며 현재 아동 성학대 자료(CSAM)에 대한 현행 법률이 기소 진행을 위해 어린이의 실제 사진 사용을 요구한다고 지적했습니다.
그러나 생성 AI 기술의 출현으로 평범한 어린이 사진을 고안적이지만 성적인 콘텐츠로 변환할 수 있기 때문에 법 집행 기관이 법적 조치를 취하기 어렵습니다. 비영리 단체 NetChoice의 부사장인 Carl Szabo는 “나쁜 행위자들이 어린이 사진을 찍어 AI를 사용하여 성적으로 곤란한 자세로 변경한 뒤에 법률의 기술적 측면에서 미화되고 기소될 수 없게 된다”고 설명했습니다.
이러한 과제에 대응하기 위해 모든 50개 주의 주 검사총장들이 AI를 이용해 아동을 악용하는 데 적극적인 해결책을 제안하고 대응하기 위해 의회에 호소하는 양당서성 편지를 썼습니다. 이 편지는 AI 생성 CSAM이 명시적으로 입법에 포함되어 기소자들이 적절한 조치를 취할 수 있도록 하는 것을 요구했습니다.
Luna 의원은 FBI가 이러한 범죄에 연루된 개인들을 기소하는 데 어려움을 겪고 있다고 강조했습니다. AI가 생성한 이미지는 실제 어린이에게 해를 입히지 않기 때문에 기존의 법적 구조는 가해자들을 책임지기에는 부족하다고 설명했습니다. FBI는이 문제에 대처하고자하는 관심을 표명했지만 그들은 노력 중에 중대한 장애물을 마주하고 있습니다.
현재 AI가 생성한 CSAM은 온라인에서 유포되는 유해 콘텐츠의 일부로서는 소수를 차지하고 있지만, 이러한 생성 AI 프로그램의 사용 편리성 및 다방면의 성질과 극도로 현실적인 특성으로 인해 증가할 것으로 예상됩니다. 국립실종 아동 및 학대 아동 국가 센터(NCMEC)의 전문가인 John Shehan은 이 문제에 대처하는 것이 예방적으로 중요하다고 강조했습니다. 그는 스탠포드 인터넷 연구소가 정통 AI가 CSAM 생성 증가의 기여 요인으로 도출한 연구를 강조했습니다.
NCMEC는 온라인 아동 학대를 위한 미국의 중앙 신고 시스템 인 CyberTipline을 운영하고 있습니다. 생성 AI를 활용하는 앱 및 서비스가 증가하고 있지만 신고를 한 기업은 소수뿐입니다. Shehan은 이러한 도구를 개발할 때 기술 회사들이 안전을 우선시하여 NCMEC과 같은 단체와 협력하여 아동에게 성적으로 악용하고 노출된 콘텐츠의 생성을 방지하는 필요성을 강조했습니다.
유감스럽게도, 법 집행 기관은 생성 AI CSAM 사례를 수사하고 기소하는 데 중대한 어려움을 겪고 있습니다. 사례의 규모와 자원의 부재로 인해 가장 악의적인 가해자들을 명중하기가 어렵습니다. Nick Langworthy 의원(R-N.Y.)는 비영리 단체 Raven의 CEO인 John Pizzuro가 상원 법정 청문회에서 제기한 알람을 강조했습니다. 3개월 동안 미국 내 99,000개 IP 주소가 알려진 CSAM을 유포했지만, 조사된 사례는 782건 뿐이었습니다.
이러한 문제를 효과적으로 해결하기 위해 의회가 조치를 취하는 것이 필수적입니다. AI 생성 CSAM을 입법에 명시적으로 포함시킴으로써, 법 집행 기관을 권한 부여하고 가해자들을 기소하는 데 필요한 도구를 제공할 수 있습니다. 정부 기관, 기술 회사 및 비영리 단체의 협력은 아동을 이러한 추악한 범죄로부터 보호하는 데 중요합니다.
The source of the article is from the blog queerfeed.com.br