인공지능(AI) 기술의 발전은 다양한 산업에서 많은 이점과 진보를 가져왔습니다. 그러나 이러한 발전의 한편으로 AI의 어두운 면이 드러나고 있습니다. 아동 안전 전문가와 연구자들은 온라인 학대를 악화시키는 데 AI의 잠재적인 위험을 경고하고 있습니다.
미국 실종 및 학대 아동 국립센터(NCMEC)에 따르면 작년에는 아동 성착취를 보여주는 AI 생성 콘텐츠에 관한 4,700건의 신고가 있었습니다. 이 알람을 울리는 숫자는 AI 기술이 계속 진화함에 따라 증가할 것으로 예상되는 문제의 출현을 보여줍니다.
NCMEC는 아직 2023년에 모든 소스로부터 받은 아동학대 콘텐츠 신고의 총 수를 공개하지 않았지만, 이 기관은 2022년에 약 88.3백만 건의 파일을 받았다고 밝혔습니다. 이러한 신고들은 생성형 AI 기업 자체, 온라인 플랫폼, 그리고 불건전한 콘텐츠를 우연히 발견하는 개인들로부터 온 것입니다.
이 문제에 대해 촉박한 해결이 필요하다는 인식을 가진 NCMEC는 아동학대 콘텐츠를 수사기관에 신고하는 데 있어서 국가적인 소스 출처로서 중요한 역할을 담당하고 있습니다. NCMEC의 부사장인 존 셰한은 AI가 중재된 아동학대가 불피요하게 일어나고 있다고 강조했습니다.
최근 메타 플랫폼, X, TikTok, 스냅, 디스코드의 CEO들은 온라인 아동 안전에 초점을 맞춘 상원 국회 청문회에서 질문을 받았습니다. 입법자들은 이러한 소셜 미디어와 메시징 회사들에게 아동을 온라인 위협으로부터 보호하기 위한 노력에 대해 조사했습니다.
스탠포드 인터넷 연구소의 연구원들은 6월에 보고서를 발표하여 악용자들이 생성형 AI를 사용해 진짜 아동과 매우 닮은 새로운 이미지를 만들어낼 수 있는 우려스러운 잠재력을 강조했습니다. 이 AI 생성 자료들이 점점 사진과 비슷한 실감나는 형태를 띄게 되면, 진짜 희생자와 AI 창작물을 구분하는 것은 큰 도전이 될 것입니다.
이 점점 커지는 문제에 대응하기 위해 OpenAI는 인기 있는 ChatGPT의 제작기관으로서 NCMEC에 신고를 전달하는 시스템을 도입했습니다. 또한, NCMEC와 다른 생성형 AI 기업들 간에 같은 방식의 조치를 수립하기 위한 대화가 진행 중입니다.
AI의 부상은 혁신과 책임을 동시에 가져옵니다. 사회가 AI 기술을 계속 받아들이는 동안, 특히 어린이들을 포함한 취약한 개인들의 안녕을 보호하기 위해 부상하는 우려에 대처하는 데 주의를 기울이는 것이 중요합니다.
FAQ:
Q: AI의 어두운 면은 무엇인가요?
A: AI의 어두운 면은 특히 온라인 학대를 악화시키는 데에 인공지능 기술이 가지는 잠재적인 위험과 부정적인 영향을 의미합니다.
Q: 작년에는 AI 생성 콘텐츠를 통해 아동 성착취에 관한 몇 건의 신고가 있었나요?
A: NCMEC에 따르면 작년에는 AI 생성 콘텐츠를 통해 아동 성착취에 관한 4,700건의 신고가 있었습니다.
Q: 2022년에 NCMEC가 받은 아동학대 콘텐츠와 관련된 파일 수는 어떻게 되나요?
A: NCMEC는 2022년에 약 88.3백만 건의 아동학대 콘텐츠와 관련된 파일을 받았습니다.
Q: NCMEC는 이 문제에 어떤 역할을 하고 있나요?
A: NCMEC는 아동학대 콘텐츠를 수사기관에 신고하기 위한 국가적인 정리기관으로서 중요한 역할을 하고 있습니다.
Q: 어떤 소셜 미디어와 메시징 회사들이 온라인 아동 안전에 대해 상원 국회 청문회에서 질문을 받았나요?
A: 메타 플랫폼, X, TikTok, 스냅, 디스코드의 CEO들이 상원 국회 청문회에서 온라인 아동 안전에 대해 질문을 받았습니다.
Q: 스탠포드 인터넷 연구소의 보고서는 무엇을 강조했나요?
A: 스탠포드 인터넷 연구소의 보고서는 악용자들이 생성형 AI를 사용해 진짜 아동과 매우 닮은 새로운 이미지를 만들어낼 수 있는 우려스러운 잠재력을 강조했습니다.
Q: OpenAI와 다른 생성형 AI 기업들은 이 문제에 대해 어떤 조치를 취했나요?
A: OpenAI는 NCMEC에 신고를 전달하는 시스템을 도입했으며, NCMEC와 다른 생성형 AI 기업들 간에도 같은 조치를 수립하기 위한 대화가 진행 중입니다.
정의:
– AI(인공지능): 기계가 일반적으로 인간의 지능이 필요한 작업을 수행할 수 있게 하는 기술입니다.
– 아동학대 콘텐츠: 아동 성착취 또는 학대를 보여주는 콘텐츠입니다.
– 생성형 AI: 이미지나 텍스트와 같은 새로운 데이터 또는 콘텐츠를 생성할 수 있는 인공지능입니다.
– NCMEC(실종 아동 국립센터): 아동 유괴, 아동 성착취 예방 및 실종 아동을 찾는 데 초점을 맞춘 미국의 국가 기관입니다.
– 소셜 미디어와 메시징 회사: 사용자들이 다른 사람들과 연결하고 의사소통하며 콘텐츠를 공유할 수 있는 온라인 플랫폼과 서비스를 제공하는 기업입니다.
관련 링크 제안:
실종 아동 국립센터
OpenAI
스탠포드 대학교
The source of the article is from the blog girabetim.com.br