소셜 미디어 플랫폼 산업은 디지털 조작 미디어에 대한 과제에 대응하여 상당한 변화를 겪고 있습니다. 인공지능 기술의 발전으로 인해 속임수가 된 콘텐츠의 보급이 점점 더 시급한 문제가 되어왔습니다.
메타의 새로운 정책 변화는 인공지능으로 생성된 비디오, 이미지 및 오디오에 대한 “AI로 제작됨” 라벨 도입을 포함하고 있습니다. 이러한 라벨링 전략은 디지털으로 변조된 미디어의 제작 과정에 대한 투명성을 제공하고 시청자에게 알려줍니다.
이러한 새로운 정책들의 실시는 2024년 5월에 시작되는 것이 기대되며, 메타는 7월에 자체 조작된 비디오 정책을 단순히 삭제하는 것을 중단할 계획입니다. 이는 사용자들이 자가 공개 과정에 익숙해지도록 하고 그 이후로 조작된 미디어의 소수 부분이 삭제되게 됩니다.
생성적 AI 도구를 사용하여 생성된 이미지를 식별하기 위해 메타는 이미지 파일 내에 보이지 않는 표식을 포함할 계획을 이전에 발표했습니다. 그러나 이러한 계획이 시작되는 구체적인 날짜는 아직 알려지지 않았습니다.
이러한 정책 변경 사항은 주로 페이스북, 인스타그램 및 Threads 플랫폼에서 공유되는 콘텐츠에 적용됨을 유념해야 합니다. 왜냐하면 외부 서비스인 WhatsApp 및 Quest 가상 현실 헤드셋과 같이 메타의 다른 서비스에는 다른 규정과 규칙이 존재하기 때문입니다.
이러한 정책 변경은 11월에 예정된 미국 대통령 선거 및 인도를 포함한 기타 국가들의 선거를 앞두고 발표되었습니다. 기술 산업의 연구원들은 선거 풍경에 떠오르는 생성적 AI 기술의 잠재적인 영향에 대해 우려를 표명했습니다. 이미 정치 캠페인은 AI 도구를 활용하고 있기 때문에 메타 및 업계 선도기업 OpenAI와 같은 제공업체로부터 보다 명확한 지침이 필요합니다.
메타의 이전 조작된 미디어 정책은 회사의 감독 이사회에 의해 “불일치”로 비판받았습니다. 이 평가는 미국 대통령 조 바이든을 소재로 한 조작된 비디오를 검토한 후에 나온 것인데, 이 비디오는 부적절한 행동을 거짓으로 묘사했습니다. 그러나 이러한 부정확성에도 불구하고 비디오는 플랫폼에서 여전히 이용 가능했습니다.
현재 메타의 “조작된 미디어” 정책은 주로 AI에 의해 생성된 비디오나 음성 조작을 하는 데 주로 초점을 맞추고 있습니다. 그러나 감독 이사회는 이러한 지침을 AI가 아닌 콘텐츠에도 확장하고, 그러한 콘텐츠 역시 마찬가지로 오도될 수 있음을 주장했습니다. 게다가 이러한 표준을 오디오 전용 콘텐츠 및 공정하지 않게 제작된 비디오에도 적용하는 중요성을 강조했습니다.
자주 묻는 질문:
1. 디지털 조작 미디어에 대한 메타의 새로운 정책은 무엇입니까?
메타는 자사 플랫폼을 통해 공유되는 AI로 생성된 비디오, 이미지 및 오디오에 “AI로 제작됨” 라벨을 도입하고 있습니다. 이 회사는 디지털로 변조된 미디어의 제작 과정에 대해 투명성을 제공하고자 합니다.
2. 메타가 AI로 생성된 콘텐츠에 라벨을 붙이기 시작하는 시기는 언제입니까?
메타는 2024년 5월부터 AI로 생성된 콘텐츠에 라벨을 붙일 계획입니다.
3. 메타는 계속 조작된 미디어를 삭제하나요?
메타는 자사의 조작된 비디오 정책만을 근거로 콘텐츠를 삭제하는 것을 7월에 중단할 계획입니다. 이는 콘텐츠 사용자가 삭제되는 조작된 미디어의 소수 부분의 제거 전 자가 공개 프로세스를 이해할 시간을 제공하기 위한 조치입니다.
4. 메타가 생성적 AI 도구를 사용하여 생성된 이미지를 식별하는 방법은 무엇입니까?
메타는 이미지 파일 내에 보이지 않는 표식을 내장하여 해당 이미지를 식별할 계획을 이전에 발표했으나, 이 계획의 시작일은 아직 공개되지 않았습니다.
5. 어떤 플랫폼이 메타의 수정된 라벨링 전략에 영향을 받게 됩니까?
수정된 라벨링 전략은 페이스북, 인스타그램 및 Threads 플랫폼에서 공유되는 콘텐츠에 적용될 것입니다.
6. 생성적 AI 기술에 관한 어떤 우려가 제기되었습니까?
기술 산업의 연구원들은 이러한 기술이 미래 선거, 특히 미래 미국 대통령 선거에 미칠 잠재적 영향에 대해 우려를 표명했습니다. 이미 정치 캠페인은 AI 도구를 활용하고 있으므로 메타와 OpenAI와 같은 제공자로부터 보다 명확한 지침이 필요합니다.
The source of the article is from the blog toumai.es