TikTok는 인공 지능 (AI) 도구를 사용하여 생성된 비디오에 대한 자동 라벨링을 도입함으로써 투명성을 향상하기로 했습니다. 이제 OpenAI의 DALL·E 3와 같은 고급 AI 서비스로 제작된 콘텐츠를 포함한 플랫폼 상의 모든 AI로 생성된 콘텐츠에는 “AI 생성” 태그가 표시되어 사용자가 콘텐츠의 출처를 인식할 수 있습니다.
이러한 조치는 주류 기술 기업인 Microsoft와 Adobe와 같은 중요 기업이 참여한 콘텐츠 출처 및 신뢰성 협회 (C2PA)가 개발한 콘텐츠 자격 증명의 채택을 통한 TikTok의 전략의 일부입니다. 이 새로운 기술을 통해 메타데이터가 각 비디오에 첨가되어 플랫폼이 AI로 생성된 비디오를 식별하고 자동으로 태그할 수 있게 됩니다.
새로운 라벨링이 작동하는 방식은 TikTok의 내부 AI 효과를 넘어서 기술됩니다. Microsoft의 Bing 이미지 생성기나 앞서 언급한 DALL·E 3와 같은 C2PA의 콘텐츠 인증 프레임워크를 지원하는 외부 서비스를 사용하여 생성된 비디오도 동일한 방식으로 라벨링될 것입니다.
이러한 노력은 Google을 비롯한 주요 기술 기업들이 이러한 자격 증명의 표준화를 지지하고 있음에 따라 등장했습니다. 다음 몇 달 동안 TikTok은 자체 AI 효과를 통해 직접 생성된 콘텐츠에 콘텐츠 자격 증명을 더욱 통합할 계획입니다.
AI로 생성된 콘텐츠와 관련된 상세한 메타데이터는 콘텐츠가 어떻게, 어디서 생성되었는지에 대한 통찰력을 제공하여 사용자가 다운로드해도 콘텐츠에 지속적인 투명성을 제공하며 플랫폼의 미디어 공유 환경 전반에 걸쳐 투명성을 유지하는 것을 목표로 합니다.
주요 질문 및 답변:
1. TikTok이 AI 콘텐츠 라벨을 추가하기로 한 동기는 무엇인가요?
TikTok이 AI 콘텐츠 라벨을 추가한 이유는 딥 페이크, 잘못된 정보, 콘텐츠 출처에 대한 널리 이야기되는 대화와 우려에 대응하기 위한 것으로 보입니다. AI로 생성된 콘텐츠를 태깅함으로써 TikTok은 사용자가 상호 작용하는 콘텐츠의 성격을 즉각적으로 구분할 수 있도록 합니다.
2. TikTok은 어떻게 AI로 생성된 콘텐츠를 어떻게 판별하나요?
AI 도구와 서비스가 사용된지 여부를 식별하는 메타데이터를 기반으로 콘텐츠가 AI로 생성되었다고 라벨을 지정합니다. 이는 TikTok의 내부 AI 효과나 C2PA 프레임워크의 일부인 DALL·E 3와 같은 외부 서비스를 사용한 경우를 포함합니다.
3. 콘텐츠 크리에이터와 사용자에 대한 함의는 무엇인가요?
콘텐츠 크리에이터들에 대해 라벨링 시스템은 창의 과정에 대한 책임감과 투명성을 추가합니다. 사용자들은 소비하는 콘텐츠의 출처에 대해 더 잘 알 수 있어서 해당 콘텐츠에 대한 신뢰와 인식에 영향을 줄 수 있습니다.
주요 도전과 논란:
– 표준화: 다양한 플랫폼에서 C2PA의 표준을 광범위하게 채택하는 것은 어려우며 산업 전반에서의 협력이 필요합니다.
– 효율성과 정확성: 시스템이 콘텐츠를 잘못 라벨링하거나 정확하게 라벨링하지 못할 가능성은 라벨의 신뢰성에 대한 우려를 불러일으킵니다.
– 개인 정보 보호: 이러한 시스템을 도입하는 것은 민감한 메타데이터를 관리해야 하며, 이는 기만적으로 사용되거나 해킹당할 경우의 예상치 못한 결과를 초래할 수 있습니다.
– 사용자 인식: 사용자가 라벨링으로 인해 AI로 생성된 콘텐츠를 어떻게 인식하고 학대하지 않을지는 콘텐츠 크리에이터가 AI 도구를 사용할 의지에 영향을 줄 수 있습니다.
장점:
– 투명성과 신뢰: 명확한 라벨링은 콘텐츠의 출처를 알고 싶어하는 사용자들과의 보다 투명한 환경을 조성하여 신뢰를 구축할 수 있습니다.
– 잘못된 정보 대응: 라벨을 통해 사용자에게 콘텐츠의 합성적 성격을 경고함으로써 잘못된 정보의 확산을 줄일 수 있습니다.
단점:
– 라벨에 대한 너무 의존: 사용자들은 라벨에 지나치게 의존하여 라벨이 없는 잘못된 정보나 오해될 수도 있는 콘텐츠를 간과할 가능성이 있습니다.
– 라벨링 오류: 라벨링에서의 잘못된 양성 또는 음성은 혼란을 야기하고 시스템의 신뢰성을 감소시킬 수 있습니다.
콘텐츠의 신뢰성을 강조하는 더 많은 정보를 찾으시려면 관련 회사 및 이니셔티브의 주요 페이지를 방문하실 수 있습니다: