최근 몇 년간 인공지능(AI)의 부상은 새로운 현상을 가져왔습니다 – AI 아바타. 이러한 디지턈 창조물들은 종종 도용된 이미지를 사용하여 만들어지며, 그들의 실제적인 성격으로 세계 각지의 소셜 미디어 플랫폼에서 널리 보급되며 관객들의 마음을 사로잡습니다. 이와 관련된 한 가지 이야기는 우크라이나 학생인 올가 로이역(Olga Loiek)이 중국 소셜 미디어 플랫폼에서 러시아 여성인 나타샤나 안나로 그녀가 표현되고 있다는 사실을 발견한 사례입니다.
이러한 AI 아바타들의 등장은 개인정보와 동의에 대한 중요한 우려를 제기합니다. 올가는 정신 건강 및 삶에 대한 철학을 논의하기 위해 YouTube 채널을 시작한 것인데, 그녀의 이미지와 성격이 허락 없이 사용되고 있다는 사실을 발견하여 충격을 받았습니다. HeyGen과 같은 회사들이 생성하는 이러한 아바타들은 고급 AI 기술을 사용하여 현실적인 디지턈 복제본을 생성합니다. 그들은 유창한 중국어로 말을하며 중국과 러시아 간의 밀접한 결속이나 러시아 여성이 중국 남성과 결혼하길 바라는 메시지들을 홍보합니다.
일부 중국 비디오 플랫폼은 이러한 AI 생성 비디오들에 라벨을 붙이는 조치를 취했지만, 여전히 많은 시청자들이 실제 인물을 보고 있었다고 믿으며 그들의 아름다움을 찬양하고 중국을 환영했습니다. 이 현상의 함의는 이를 비판된 사람의 권리를 침해하는 것뿐만 아니라 전 세계적으로 공개 의견을 조작하는 잠재력을 가지고 있기 때문에 멀리 미치는 것입니다. 실제로 AI 아바타들은 온라인 기만 캠페인에서 중국 지지와 미국 반대 내러티브들을 전파하는 데 사용되어 전 차원적으로 AI 기술이 경제와 안보 결정에 미치는 영향에 대한 우려를 제기했습니다.
이 문제는 AI 아바타의 윤리적 문제를 다루기 위한 규제적 틀의 필요성을 강조합니다. 기술이 계속 발전함에 따라, 현실적인 개인의 권리를 보호하고 그들의 이미지와 신원을 무단으로 사용하는 것을 방지하는 지침을 수립하는 것이 중요합니다. HeyGen과 같은 회사들은 실제 인물을 기반으로 한 아바타를 생성하기 전에 명시적인 동의를 확보하는데 대한 책임을 져야 합니다.
올가 로이역은 YouTube 채널에 헌신적이며 AI를 강하게 규제하기 위한 요구를 제기합니다. 그녀의 이야기는 인공지능의 힘과 잠재적인 함정을 상기시킨다. 세계 공동체는 이 새로운 분야를 책임 있게 해탐해야 하며, AI의 혜택을 활용하는 동시에 개인의 권리와 개인 정보를 보호해야 합니다.
The source of the article is from the blog regiozottegem.be