TikTok, AI 생성 콘텐츠의 투명성을 강화합니다
투명성을 강화하고 기만을 방지하기 위해 TikTok은 인공지능(AI)에 의해 생성된 콘텐츠를 자동으로 라벨링하는 첫 번째 주요 비디오 플랫폼이 될 예정입니다. 이 조치는 시청자들이 AI로 생성된 콘텐츠를 시청 중인지 알려줌으로써 설계되었습니다.
이전에 플랫폼은 자사 AI 도구를 사용하여 생성된 콘텐츠에 자동으로 라벨을 부여하고, 제작자들에게 유사한 공개 조치를 수동으로 추가하도록 요청했습니다. 이제 TikTok은 Content Authenticity and Provenance Alliance (C2PA)로부터 디지털 서명을 활용하여 더 많은 AI-생성 콘텐츠 (AIGC)에 라벨을 부여하는 실천을 확대하고 있습니다.
TikTok의 보안 매니저는 AI가 놀라운 창의적 잠재력을 제공하지만, 콘텐츠의 출처를 명확히하여 시청자의 혼동이나 기만을 방지하기 위해 중요하다고 언급했습니다. 따라서 TikTok은 AI 콘텐츠에 대한 라벨링을 이미 1년 이상 진행해 왔습니다.
게다가 TikTok은 자사 플랫폼에서 다운로드한 비디오에 Content Authenticity Information과 같은 디지털 서명 기술을 구현할 예정으로, 다른 플랫폼이 콘텐츠의 출처와 편집 내역을 검증하는 데 도움이 될 것입니다. 그러나 라벨링은 C2PA 멤버인 플랫폼으로 제한되며, Microsoft, Google, Adobe와 같은 산업 리더가 포함됩니다.
AI-생성 비디오 도구 Sora로 유명한 OpenAI는 최근 C2PA의 스티어링 위원회에 가입했지만 멤버로 간주되지는 않았습니다. 그들은 Content Authenticity Information을 사용하기 시작했으며, 공개적으로 출시될 때 Sora에 통합할 계획입니다.
상거래에 중점을 둔 소규모 AI 기업에 대해서는 라벨이 부착되지 않은 콘텐츠 생산이 계속되리라 예상됩니다. Stable Diffusion과 같은 오픈 소스 도구는 이미지 서명을 우회할 수 있습니다 – 비록 Stable Diffusion의 주요 기여자인 Stability.AI가 연합 소속임에도 불구하고요. 반면, AI 스타트업 Midjourney는 연합 멤버 목록에 포함되어 있지 않습니다.
TikTok의 라벨링 계획은 2월에 발표된 Facebook과 Instagram 소유사 Meta의 유사한 움직임을 따릅니다. 그럼에도 불구하고, 이러한 라벨링 노력이 AI 이미지의 광범위한 유통을 막지 못할 수도 있어서, 일부 코멘테이터는 Facebook을 “인터넷 좀비”라고 농담하기도 합니다.
다른 소셜 미디어 앱들은 아직 행동이 더딘 편입니다. Snapchat은 AI-생성 콘텐츠에 라벨을 붙이기 시작했지만, 비-Snap 제품에서 라벨이 붙지 않은 콘텐츠에 대해 경고하고 있습니다. 전 트위터였던 X는 자동 라벨링 시스템이 없으며, 합성 미디어를 식별하기 위해 사용자 제출 “커뮤니티 노트”에 의존합니다.
중요한 질문과 답변:
Q: 왜 TikTok이 AI-생성 콘텐츠에 자동으로 라벨을 부착하나요?
A: TikTok은 AI-생성 콘텐츠에 자동으로 라벨을 부착하여 투명성을 강화하고 시청자를 알리며, 콘텐츠의 출처를 명확히하여 기만을 방지하려는 것입니다.
Q: TikTok은 어떤 기술을 사용하여 비디오에 라벨을 부착하나요?
A: TikTok은 AI-생성 콘텐츠에 라벨을 부착하기 위해 Content Authenticity and Provenance Alliance (C2PA)로부터 디지털 서명을 활용하고 있습니다. 또한 자사 플랫폼에서 다운로드한 비디오에 Content Authenticity Information과 같은 디지털 서명 기술을 구현할 예정입니다.
Q: 다른 회사들도 이와 유사한 구상에 참여하고 있나요?
A: 네, Microsoft, Google, Adobe와 같은 산업 리더들도 C2PA의 회원이며, 이러한 구상에 참여하고 있습니다. Meta도 유사한 조치를 발표했습니다.
주요 도전과 논란:
AI-생성 콘텐츠에 자동으로 라벨을 부착하는 주요 도전은 라벨이 일관되게 적용되어 사용자가 인식할 수 있도록 다양한 플랫폼에 널리 채택되어야 한다는 필요성입니다. 이러한 라벨이 잘못된 정보의 확산을 억제하는 데 얼마나 효과적인지에 대한 논란도 존재합니다. 또한, C2PA의 일원이 아닌 일부 기업은 여전히 라벨이 부착되지 않은 콘텐츠를 생산할 수 있어서, 시청자를 더욱 혼란스럽게 만드는 위험이 있습니다.
장단점:
장점:
– 투명성 강화: 사용자들은 AI-생성 콘텐츠를 시청 중임을 인식하여 신뢰를 형성하게 됩니다.
– 기만 방지: 라벨은 오도 및 거짓 정보의 확산을 방지하는 데 도움이 됩니다.
– 출처 추적: 디지털 서명 기술은 콘텐츠의 출처와 편집 내용을 추적하여 더 안전하고 검증 가능하게 만듭니다.
단점:
– 한계된 보급: 이 구상은 C2PA 회원들에게만 해당되며, 비회원 콘텐츠가 라벨이 부착되지 않을 위험이 있습니다.
– 불균형한 적용: 서로 다른 플랫폼과 콘텐츠 유형 사이의 라벨링 실천에 일관성이 부족할 경우 혼란을 야기할 수 있습니다.
– 대중 인식: 대중은 AI 라벨이 의미하는 바를 충분히 이해하지 못할 수 있어, 업계의 영향이 제한될 수 있습니다.
관련 링크:
더 많은 정보는 TikTok 웹사이트(TikTok)에서 확인하실 수 있습니다.
Content Authenticity and Provenance Alliance (C2PA)에 대한 자세한 정보는 그들의 웹사이트(C2PA)에서 확인하실 수 있습니다.
OpenAI의 Sora를 비롯한 프로젝트에 대한 정보는 OpenAI 웹사이트(OpenAI)에서 확인하실 수 있습니다.
Facebook과 Instagram 소유사 Meta의 최신 소식은 Meta 웹사이트(Meta)에서 확인하실 수 있습니다.
디지털 콘텐츠 신뢰성에 대한 마이크로소프트의 참여에 대한 정보는 마이크로소프트 웹사이트(Microsoft)에서 확인하실 수 있습니다.
구글의 디지털 콘텐츠 정책에 관한 통찰은 구글 웹사이트(Google)에서 확인하실 수 있습니다.
Adobe의 콘텐츠 신뢰성과 기술에 대한 정보는 Adobe 웹사이트(Adobe)에서 확인하실 수 있습니다.
The source of the article is from the blog karacasanime.com.ve