기술의 급속한 발전은 사회에 긍정적인 영향과 부정적인 영향 둘 다를 가져왔습니다. 최근 나타난 걱정되는 트렌드 중 하나는 학생들이 섹시한 이미지를 만들기 위해 인공지능 앱을 사용하는 것입니다. 최근 정부 보고서에 따르면, 어린이들이 이러한 앱을 다운로드하는 것뿐만 아니라 불법적으로 이러한 이미지를 친구들과 공유하는 것까지 경고하고 있습니다. 게다가, 조직적 범죄단체들이 이러한 앱을 악용하여 컴퓨터로 생성된 은밀한 이미지로 어린이들을 협박하고 있습니다.
영국 인터넷 안전 위원회가 작성한 이 보고서는 선생님들에게 학생들이 명백한 이미지를 공유하는 문제에 대해 어떻게 대처해야 하는 지에 대한 지침을 제공하고 있습니다. 이는 AI로 생성된 이미지, 딥페이크, 그리고 “섹스토션”(sextortion) 사례를 전통적인 섹시한 이미지와 똑같은 심각성으로 취급해야 한다는 필요성을 강조하고 있습니다. 이는 이미지를 보지 않거나 삭제하지 않고 즉시 관련 기관에 연락하며, 특정 상황에서는 부모님께 정보를 제공하지 않도록 하는 것을 포함합니다.
운동가들과 전문가들은 이러한 지침을 환영하고 있지만, 이를 실행하는 데 있어 Ofcom과 같은 규제 기관이 보다 엄격한 조치를 취해야 한다는 요구가 있습니다. 비판자들은 AI 섹시 이미지의 확산을 억제하기 위해 보다 적극적이고 포괄적인 접근이 필요하다고 주장합니다.
현재 성인의 딥페이크 포르노나 AI 섹시 이미지를 동의 없이 공유하는 것은 불법입니다. 그럼에도 성인의 AI 섹시 이미지 생성은 합법적입니다. 그 반면, 어린이의 누드나 성적인 이미지를 생성, 소유하거나 공유하는 것은 아동 성학적 남용을 이루는 것으로 명확히 형법상 금지되어 있습니다.
AI 섹시 이미지 제작 앱의 접근성에 대한 우려가 제기되었는데, 이는 여성 및 소녀들의 가상적인 착취를 증가시켰습니다. 듀러햄 대학의 클레어 맥글린 교수는 두 가지 주요 시나리오를 밝혔는데, 첫째는 이 앱을 사용해서 여학생들의 가짜 누드를 만들어 교환하고 공유하는 아이들, 그리고 조직적 속이는 사기꾼들이 딥페이크 섹시 이미지를 생산하고 금전적 이득을 위해 그것을 이용하는 사례입니다. 맥글린 교수는 이 문제에 대한 보다 큰 인식이 필요하며 피해자들이 책임을 느끼지 않고 경험을 신고하도록 격려해야 한다고 강조하고 있습니다.
정부 보고서는 AI 앱의 사용으로 인한 “섹스토션” 사례의 크고 예기치 않은 증가를 인정하면서도 온라인 안전에 대한 공공에 대한 약속을 보장하고 있습니다. 정부 대변인에 따르면, 온라인 안전법은 어린이들을 위한 견고한 보호를 제공하고 동의없이 딥페이크의 은밀한 이미지 공유를 형법상 금지하고 있습니다. 소셜 미디어 플랫폼들도 불법 콘텐츠의 확산을 막기 위한 새로운 책임을 부여받았으며, 평가금은 수십억 파운드에 이를 수 있습니다.
이러한 발전을 고려할 때, 이 문제를 해결하기 위한 잠정적인 조치에 대한 토의가 진행 중입니다. 노동당의 그림 케일 의원과 같은 인물은 인터넷 감시 기금의 CEO인 수지 하가리브스가 범죄자들의 손에 있는 인공지능 기술로 인한 심각한 위협을 강조하며 어린이들을 착취와 학대로부터 보호하기 위한 집단적인 조치를 촉구하고 있습니다.
The source of the article is from the blog coletivometranca.com.br