물자채움 기술은 인터넷 상의 AI 비정보 문제에 대한 해결책으로 손꼽혔다. 그러나 전문가들과 NBC 뉴스의 검토에 따르면 현재의 물자채움 방법은 효과적이지 못한 것으로 확인되었다. Meta와 Adobe와 같은 기업들이 물자채움 표준에 동의했지만, 결과는 기대에 못 미치고 있다.
물자채움의 주요 과제 중 하나는 우회에 대한 취약성에 있다. 현대적인 물자채움 기술은 일반적으로 이미지의 메타데이터에 있는 보이지 않는 태그와 이미지 위에 오버레이된 보이는 라벨 두 가지 구성 요소에 의존한다. 불행하게도, 보이지 않는 물자표지와 보이는 라벨은 스크린샷 촬영이나 자르기와 같은 간단한 방법으로 쉽게 제거될 수 있다.
또 다른 문제는 주요 소셜 미디어 및 기술 기업들이 AI로 생성된 또는 AI로 편집된 콘텐츠에 대한 라벨 사용을 강제하지 않고 있다는 점이다. 이 엄격한 규정 부재로 물자채움 노력의 영향력이 제한되었다. 예를 들어, Meta CEO Mark Zuckerberg가 페이스북 커버 사진을 AI로 생성된 이미지로 업데이트했을 때, 해당 이미지의 AI 출처를 나타내는 라벨은 사용자가 사진을 클릭하지 않는 한 보이지 않았다. 이는 현재의 물자채움 기술의 한계를 보여준다.
이 문제를 해결하기 위해 Meta는 AI로 생성된 콘텐츠를 확인하고 페이스북, 인스타그램, Threads 등에서 해당 콘텐츠에 라벨을 부착하기로 발표했다. 그러나 Meta조차도 물자채움이 보안이 보장되지 않고 쉽게 조작될 수 있다고 인정하고 있다. 회사는 앞으로 더 강화된 표준을 도입할 계획이며, 사용자들이 AI로 생성된 콘텐츠를 공개하도록 요구하고 불이행 시 벌금을 부과할 예정이다.
물자채움 라벨의 가시성도 문제를 제기한다. 눈에 띄는 물자 표지를 제거하는 것은 몇 초 만에 가능하며, 그들이 제공하려는 보안을 약화시킨다. 이로 인해 물자채움의 신뢰성에 대한 우려가 제기되며, 진짜 콘텐츠를 검증하고 AI로 생성된 미디어를 정확하게 식별하는 데 어려움을 겪고 있다.
게다가, Meta, Google, Microsoft, Adobe와 같은 주요 기술 회사들이 협력적인 물자채움 표준을 채택하려는 노력에도 불구하고, 이러한 표준을 준수하지 않는 수천 개의 AI 모델이 다운로드 가능하다. 이로써 AI 비정보에 효과적으로 대응하는 데 상당한 간극이 발생하고 있다.
물자채움의 한계는 딥페이크의 증가를 고려할 때 특히 명확해진다. 딥페이크는 개인을 대상으로 하여 동의 없이 조작된 이미지와 비디오를 사용하는 AI로 생성된 미디어이다. 물자채움 하나만으로는 딥페이크가 가져오는 복잡성과 윤리적 도전에 대한 대응책을 채우기에는 부족하다.
딥페이크가 사기, 정치적 비정보, 개인정보 침해 등에 사용됨에 따라, AI로 생성된 미디어 문제에 종합적인 해법이 필요함이 명확해진다. 물자채움은 올바른 방향으로 나아가는 한편 실제적으로 미진하다. 그 취약성, 제거의 용이성 및 국제적 강제력의 부재로 인해 효과성이 제한되고 있다. AI로 생성된 미디어의 도전 과제를 진정으로 해결하기 위해서는 고급 기술, 강력한 규제, 대중적 인식을 통합한 다면적인 접근이 요구된다.
자주 묻는 질문 (FAQ)
The source of the article is from the blog kunsthuisoaleer.nl