틱톡은 AI 생성 콘텐츠 라벨링을 통해 소셜 미디어에서 투명성에 새로운 표준을 제시합니다. 이번 주, 틱톡의 COO 아담 프레서은 ABC 뉴스 방송에서 플랫폼이 컨텐츠 자격 증명을 통해 AI 조작된 미디어를 구별하여 사용자 인식을 향상시킬 것이라고 밝혔습니다.
콘텐츠 자격 증명의 적용은 EFE 에이전시, 구글, 인텔, 마이크로소프트, OpenAI, 애도비 및 틱톡 자체를 비롯한 CAI (콘텐츠 실명성 이니셔티브) 및 C2PA (콘텐츠 출처 및 실명성 연합)의 협력을 거쳐 이루어진 것으로, 이 능숙한 기술은 이미지에 메타데이터를 통합하여 사용자가 그들의 원본을 추적할 수 있도록 수정 사항을 차트화합니다.
소셜 네트워크 중 초기 채택자로서 틱톡은 자신의 커뮤니티에게 진짜 창작물과 가짜의 구분을 수행할 수 있게 하고자 합니다. 열린 AI는 ChatGPT를 만든 기업으로, 이미지 생성 DALL.E 3와 비디오 생성기 Sora와 같은 시스템이 이 스트리밍 기술을 사용할 것이라고 이전에 발표했습니다. 마찬가지로, Meta는 2월에 Facebook 및 Instagram에서 합성 콘텐츠를 라벨링할 계획을 공개했습니다.
이러한 조치의 시급성은 2022년부터 2023년 중반까지 추정 150억 개의 AI 생성된 이미지가 온라인에 엄청난 양으로 퍼지고 있기 때문에 강조됩니다. TikTok과 같은 플랫폼이 이러한 혁신을 받아들이면 사용자들은 소셜 미디어 경험에서 더 많은 콘텐츠 명확성을 기대할 수 있습니다.
틱톡이 AI 콘텐츠 식별 기술을 도입하여 미디어를 인공지능으로 조작된 것인지 아니면 사람이 창작한 것인지 라벨링하는 주제는 미디어 성실성과 잘못된 정보에 대항하는 더 광범위한 논의와 관련이 있습니다. 여기에는 주제와 관련된 추가 사실, 주요 질문, 도전과제, 논란, 장점 및 단점이 포함됩니다.
사실:
– 딥페이크와 합성 미디어의 급증으로 인해 많은 플랫폼이 AI에 의해 생성 또는 수정된 콘텐츠를 식별하는 방법을 찾고 있습니다.
– 콘텐츠 자격 증명은 디지털 미디어 교양을 높이기 위해 노력하며, 사용자가 소비하는 콘텐츠에 대해 더 나은 결정을 내릴 수 있도록 합니다.
– AI 시스템은 점점 더 정교해지고 있어 평범한 사용자가 지원 없이는 수정된 콘텐츠를 구별하기 어려워지고 있습니다.
중요한 질문과 답변:
– Q: 소셜 미디어에서 콘텐츠 식별이 왜 중요한가요?
– A: 디지털 시대에서 수정된 미디어가 속임수 또는 해로운 목적으로 사용될 수 있는 환경에서 사용자가 신뢰할 수 있는 콘텐츠를 보도록 돕는 것이 중요합니다.
– Q: AI 콘텐츠 식별 기술은 어떻게 작동하나요?
– A: 이 기술은 일반적으로 인간이 쉽게 인식하기 어려운 수정의 흔적을 감지하기 위해 디지털 미디어를 분석하고, 콘텐츠의 생성 및 수정 내용을 추적하는 메타데이터를 첨부합니다.
주요 도전과제 및 논란:
– 투명성과 개인정보 보호, 창작자 권리의 균형을 맞추는 것은 어렵습니다. 창작자는 모든 변경 사항이 기록되기를 원하지 않을 수 있으며, 개인정보 옹호자들은 방대한 메타데이터 축적에 반대하곤 합니다.
– 사용된 AI 기술이 진짜와 조작된 콘텐츠를 신뢰할 수 있게 구별하는 것이 챌린지입니다.
– 라벨링의 오용 가능성이 있으며, 콘텐츠가 부당하게 또는 잘못되게 표시되어 검열 문제가 발생할 수 있습니다.
장점:
– 투명성을 촉진하고 잘못된 정보의 확산과 싸웁니다.
– 사용자가 온라인에서 무엇을 신뢰할지에 대해 더 현명한 결정을 내릴 수 있도록 지원합니다.
– 콘텐츠 책임성에 대한 다른 소셜 미디어 플랫폼이 따를 선례를 제시합니다.
단점:
– 메타데이터는 잘못 해석되거나 조작될 수 있어 해석이 잘못된 정보를 유발할 수 있습니다.
– 조작된 콘텐츠를 감지하는 기술에 대한 과도한 의존 가능성이 있습니다. 이는 사용자의 비판적 사고 능력을 대신할 수 있습니다.
관련 링크:
보다 자세한 정보는 관련된 조직 및 기술 기업의 주요 웹 도메인을 방문하시기 바랍니다:
– 콘텐츠 실명성 이니셔티브
– 콘텐츠 출처 및 실명성 연합
– Meta
– 구글
– 인텔
– 마이크로소프트
– OpenAI
– 애도비
– 틱톡
이러한 URL은 주요 도메인으로 이동하며, 일반적으로 이 주제에 대한 정보를 포함하고 있으므로 신뢰할 수 있는 소스로 간주됩니다.