걱정스러운 AI 행태가 어린이들을 노출시킴
인권 단체인 ‘인간권위원회’가 인공 지능(AI) 도구들에 의한 개인 이미지 남용에 대한 우려되는 발견을 발표했습니다. 보고서에는 근본적인 승인 없이 브라질 어린이들의 사진들이 AI 개발 목적으로 출처없이 사용되었다는 내용이 상세히 기술되어 있습니다. 이들 사진은 아기 출산, 생일 축하, 학교 행사 등의 인간의 삶의 친밀한 순간들을 담은 브라질 어린이들의 사진입니다.
이러한 사생활을 드러낸 순간들은 LAIon-5B 데이터베이스에서 발견되었는데, 50억 장이 넘는 이미지로 구성된 AI 트레이닝을 위해 널리 사용되는 엄청난 소장입니다. 발견된 어린이 사진들의 수는 전체 데이터베이스의 일부에 불과하나, 이 발견으로 개인 정보와 동의에 관한 중요한 경고가 제기되었습니다.
미성년자에 대한 딥페이크의 위험
인간권위원회의 아동 및 기술 연구원 한혜정은 AI 기술이 현실적인 이미지와 장면을 만들 수 있게 하며, 이를 초 단위로, 자유롭게, 용이하게 할 수 있다고 설명했습니다. 이 기술은 악의적이고 비동의적인 딥페이크, 웹 상에서 배포된 수정된 비디오와 이미지들의 작성이 우연히 촉진되었습니다.
사생활 실패와 개선 노력
브라질 어린이들의 모은 사진들은 온라인 검색을 통해 이용할 수 없으며 몇 년이나 몇 10년 전에 올려진 것일 수 있지만, AI 도구들이 접근하여 이것들을 밝히면서 주요 기업들과 소셜 미디어 플랫폼이 사용자 사생활을 보호하는 데 잠재적인 미비한 점을 밝혔습니다.
LAION-5B를 책임지는 독일 기관은 자료 집합에서 이러한 개인 사진들의 존재를 확인하고 그것들을 제거할 것을 맹세함으로써 AI 모델들이 개인 데이터를 정확하게 복제하는 가능성에 도전했습니다. 그러나 LAION은 부모님과 어린이들이 자신들의 이미지를 인터넷에서 제거하는 것이 남용에 대한 가장 효과적인 방어책이라고 주장했습니다.
디지털 권리 입법을 위한 선언
알라나 연구소의 어린이 및 소비 프로그램 코디네이터 마리아 멜로는 디지털 영역에서 사용자를 보호하기 위해 기존 법률을 적용하는 것을 촉구하며, 어린이와 청소년들을 위한 보호 의무를 수립하는 필요성을 강조했습니다.
브라질 미성년자의 개인 사진 남용은 AI 시대의 개인 정보 보호에 대한 여러 주요 질문, 도전 및 논란을 강조합니다:
중요한 질문:
1. AI 도구들이 개인 데이터를 남용하지 않도록 보장하는 데 어떤 조치가 취해지고 있습니까?
2. 부모님과 어린이들이 그러한 남용으로부터 스스로를 어떻게 보호할 수 있나요?
3. AI에서 동의 없이 어린이의 이미지를 사용하는 것의 함의는 무엇인가요?
답변:
1. AI 적용 프로그램은 일반적으로 국가별로 다양한 데이터 보호 및 사생활 법률에 의해 통제됩니다. 이는 유럽 GDPR 등의 규정을 포함합니다. 그러나 법 집행은 어렵고, AI 개발자들은 그림으로 표현된 개인들로부터 적절한 승낙을 확보하지 않은 소스에서 데이터를 얻을 수 있습니다.
2. 부모님과 어린이들은 온라인에서 공유하는 것에 주의를 기울이고, 개인 정보 설정을 활용하며, 동의 없이 공유되었을 수 있는 인터넷 플랫폼에서 이미지 삭제를 요청하는 것이 좋습니다.
3. AI를 위해 어린이의 개인 이미지를 동의 없이 사용하면 사생활 침해, 신분 도용 및 심리적 피해로 이어질 수 있습니다, 특히 이러한 이미지가 딥페이크를 만드는 데 사용된 경우.
주요 도전과 논란:
– 동의 및 사생활: 특히 이미지가 AI 데이터셋에서 사용되기 전에 미성년자나 보호자로부터 사전 정보 제공 동의가 없다면, 그것은 사생활권의 근본적인 위반입니다.
– 규제: 특히 어린이의 권리와 보호와 관련하여 AI와 데이터 수집이 어떻게 규제되어야 하는지에 대한 논쟁이 계속되고 있습니다.
– 집행: 규제가 있음에도 불구하고 전 세계적으로 사생활법을 집행하는 것은 복잡합니다. AI 데이터셋은 다양한 국제적인 소스에서 편성될 수 있기 때문입니다.
AI 도구의 장점:
– AI는 어린이들을 위한 교육 도구를 개선하여 학습을 더 상호작용적이고 맞춤화된 것으로 만들 수 있습니다.
– AI를 이용한 응용 프로그램은 건강과 안전에 대한 감시와 편의 기능을 제공할 수 있습니다.
AI 도구의 단점:
– 언제든지 개인 사진이 남용될 때 침범적인 사생활 침해가 발생할 수 있습니다.
– 특히 소스 데이터가 미성년자인 경우, 동의를 관리하는 것이 어려운 문제가 있습니다.
– AI가 개인을 이용하여 피해를 입힐 수 있는 딥페이크를 만들 경우의 가능성이 있습니다.
마지막으로, 알라나 연구소에서 지원하는 성명서와 입법 노력과 같은 성명서와 입법 노력은 아동 사용자의 취약성을 고려하여 디지털 권리와 보호를 맞춤화해야 한다는 중요성을 역설합니다. 디지털 문맥에서 기존 법률을 적용하는 것은 온라인에서 마이너들의 안전과 사생활을 보장하기 위한 필수 요소입니다.
관련 정보는 아래의 링크에서 확인할 수 있습니다:
– 인간권위원회
– 알라나 연구소
– 유럽 위원회 (GDPR 정보)
항상 링크 및 그 내용을 접근하기 전에 확인해야 합니다.