메릴랜드 당국은 고등학교 체육교육이사인 Dazhon Darien이 최첨단 인공지능을 사용하여 속이는 오디오 녹음물을 만든 사건을 상세히 설명했습니다. 이 조작된 오디오는 파이크스빌 고등학교 교장이 인종적 및 반유대주의 발언을 한 것으로 주장되는 내용을 담고 있었으며, 이는 빠르게 소셜 미디어를 통해 확산되었습니다.
경찰은 조작된 녹음물을 단순한 기술적 조작물로만 설명하지 않고, Darien의 직무 성과와 계약 갱신 가능성에 관한 대화에 대응하여 직접적인 반응으로 설명했습니다. 합성 오디오는 교장이 불필요하게 휴가처리되도록 만들었으며, 그의 가족에 상당한 압박을 가했습니다.
제작된 클립의 확산은 온라인에서 혐오 발언이 확산되고 학교로부터 방해 전화가 쇄도하도록 이끌었습니다. 이 수준의 방해는 교직원 사이에 상당한 불안을 일으키기에 그치지 않았고, 이는 학교가 일시적으로 활동을 중단하게 만드는 정도까지 이르렀습니다.
31세인 Darien은 절도 및 증언 보복과 같은 심각한 혐의에 직면하고 있습니다. 연방의무재판에서 5,000달러의 보석금이 선언되었습니다. 그의 체포는 볼티모어/워싱턴 국제 테구드 마샬 공항에서 의도한 비행 전에 발생했으며, 그가 총기를 부주의하게 취급함으로써 상황은 더욱 복잡해졌습니다.
이 사건을 고려할 때, 인공지능 기술의 효능과 접근성이 강조되었습니다. 매체 포렌식 연구소 소장인 Siwei Lyu는 목소리 복제를 위해 AI를 오용하기 쉽다고 밝히며, AI 음성 생성 기술의 신속한 발전을 상충시키기 위한 더 나은 감지 도구의 필수성을 강조했습니다. 한편 볼티모어 카운티 학교 제도는 Darien이 맡은 직무에서 해임 조치를 취하고 있습니다.