요즘 라구나 비치 고등학교(Laguna Beach High School)의 총교 관들은 인공지능(AI)을 이용하여 학생들의 “부적절한 이미지”를 생성하고 유포한 사건에 대한 조사를 실시했다. 구체적인 사항은 아직 불분명하나 학교는 이러한 상황에 대응하고 학생들에게 책임 있는 행동과 상호 존중에 대한 가르침이 되도록 즉각적인 조치를 취하고 있다.
라구나 비치 고등학교의 사건은 고립된 사례가 아니다. 미국 전역의 교육 기관들이 학문적 및 사회적 상황에서 인공지능 기술의 사용에 대해 고심하고 있다. 실제 이미지와 AI 알고리즘을 결합한 딥페이크(deepfake) 기술의 등장은 시뮬레이션된 누드 신체가 표현된 부정확한 이미지를 만들어내었다.
예를 들어, 올해 초에는 비버리힐스의 8학년 5명이 딥페이크 기술을 사용하여 동급생들의 가짜 누드 사진을 만들고 공유하여 퇴학당했다. 이러한 이미지는 그 후 메신저 앱을 통해 유포되었다. 이러한 사건들은 조작된 이미지로 인한 잠재적 피해에 대한 논의와 대응이 시급함을 강조한다.
AI로 생성된 이미지가 십대들을 대상으로 한정된 것은 아님을 언급할 가치가 있다. 1월에는 테일러 스위프트의 성적으로 표현된 이미지가 AI에 의해 만들어지고 소셜 미디어에서 유포되어 공개 분노를 일으켜 AI로 생성된 이미지의 만들고 유포로부터 보호하기 위한 입법 요구가 제기되었다.
연방 및 주정부의 입법자들이 이 문제를 다루기 시작했다. 성적으로 표현된 AI 생성물을 동의 없이 만들고 공유하는 것을 불법화하는 “인용도 안 되는 이미지의 딥페이크 방지법”(Preventing Deepfakes of Intimate Images Act)과 DEFIANCE 법은 피해자가 동의 없이 딥페이크를 만든 사람을 고소할 수 있는 권한을 제공한다.
학군지역도 AI 기술이 유발하는 문제에 대처하고 있다. 예를 들어 캘리포니아 오렌지 카운티 교육부는 AI의 사용에 대한 토론회를 개최하고 효율적으로 교육 시스템에 통합하는 방안을 탐색하는 월례회의를 시작했다.
그러나 전문가들은 AI 기술이 점점 보편화되고 사용하기 쉬워지면서 조작된 이미지 문제가 더욱 부각되고 있다고 경고한다. 십대들이 널리 사용하는 소셜 미디어 플랫폼과 AI의 결합은 거짓된 외모와 사회적 기대가 부각되어 자그마한 영향을 미칠 수 있다.
이번 사건에 대응하여 라구나 비치 고등학교는 AI로 생성된 콘텐츠에 대한 패널토론을 열고 학생들을 대상으로 학교 자원관, 상담사, 심리학자, 그리고 디지털 미디어 전문가들 등 다양한 전문가들을 동원한다. 이러한 토론은 학생들에게 AI 기술의 영향을 교육하고 긍정적이고 지지적인 캠퍼스 환경을 조성하기 위한 것이다.
이 문제가 계속 진전되는 가운데 학교와 지역사회는 딥페이크와 이로 인한 가짜 및 조작된 이미지가 초래하는 문제에 대처하기 위해 함께 노력해야 한다. 학생들에게 책임 있는 행동에 대해 교육하고 비판적 사고력을 장려하며 적절한 징계 조치를 취함으로써 AI의 오용이 초래하는 부정적 영향과 싸워 안전하고 상호 존중하는 환경을 조성할 수 있을 것이다.
자주 묻는 질문 (FAQ)
The source of the article is from the blog rugbynews.at