TikTok이 AI로 생성된 콘텐츠를 명확하게 표시하는 정책 도입
TikTok은 디지털 합성 미디어를 태깅하여 투명성을 강화하고자 콘텐츠 정책을 업데이트했습니다. 사용자들은 이제 AI에 의해 만들어진 콘텐츠인지를 확인할 수 있게 되었으며, 사진과 비디오에 새 메타데이터가 적용되어 AI 출처임을 나타냅니다.
오디오 콘텐츠 스캔 예정
비디오 공유 플랫폼은 시각적 콘텐츠에 그치지 않고 오디오 파일로의 스캔을 확장하기 위한 계획을 추진 중이며, 사용자가 AI로 생성된 원소를 식별할 수 있도록 할 것입니다.
AI 라벨링에서 선도적 역할
TikTok은 이러한 변화를 도입한 소셜 미디어 플랫폼 중 하나로 자신을 AI 투명성 공간에서 선도하는 것으로 자리매깁니다. 이들은 Adobe, Arm, Intel, Microsoft, Truepic를 포함한 기술 협력자들이 개발한 “콘텐츠 신뢰성” 기술인 Coalition for Content Provenance and Authenticity (C2PA)를 활용할 것입니다.
워터마크 기술 대신 투명성 강화
AI 파트너쉽(PAI) 시민 단체의 인공지능 및 미디어 통합을 책임지는 클레어 라이보위치는 “콘텐츠 신뢰성”이 기존 워터마크 기술보다 더 큰 투명성을 제공한다고 밝히고 있습니다.
오랜 기간 정착된 정책과 일치
TikTok의 사용자 동의서는 이미 1년 넘게 현실적인 AI 콘텐츠에 태깅을 의무화하고 있으며, 그것은 이번 새로운 계획과 일치합니다.
AI 식별로 향한 산업 움직임
Meta와 Google을 포함한 대형 기술 기업의 이전 발표를 따르는 이 이동은, 플랫폼 전반에서 AI 조작된 시각적 혹은 오디오를 식별하기 위한 기술 표준 설정을 향한 산업 트렌드를 나타냅니다.
관련 사실:
– TikTok은 빠르게 성장하여 전 세계적으로 주요 소셜 미디어 플랫폼 중 하나이며, 특히 짧은 형식의 비디오 콘텐츠로 어린 사용자들 사이에서 인기가 있습니다.
– 콘텐츠 제작에서 인공지능의 증가에는 ‘딥페이크’가 포함되어 있으며, 이는 어떤 사람의 모습이나 목소리를 다른 사람으로 대체한 매우 현실적인 비디오와 오디오 클립을 말하며, 잘못된 정보와 디지털 사칭의 가능성에 대한 우려를 제기합니다.
– AI로 생성된 콘텐츠의 명확한 라벨링은 디지털 리터러시를 지지하고 사용자들이 진짜와 합성된 콘텐츠를 구별하는 데 도움이 됩니다.
– AI 기술은 점점 세련되어지고, 때로는 사람이 만든 콘텐츠와 구별할 수 없는 콘텐츠를 생성할 수 있어서, 이러한 콘텐츠를 식별하는 것은 복잡한 도전입니다.
중요한 질문과 답변:
– TikTok이 AI로 생성된 콘텐츠에 라벨을 붙이는 이유는 무엇인가요? TikTok은 AI로 생성된 콘텐츠에 라벨을 붙여 사용자들에게 더 큰 투명성을 제공하고, AI에 의해 만들어졌거나 변경된 콘텐츠와 상호작용할 때 그것을 알려줍니다.
– TikTok의 새로운 정책이 콘텐츠 제작자들에게 어떤 영향을 미칠까요? 콘텐츠 제작자들은 AI로 생성되거나 변경된 콘텐츠가 적절히 태깅되도록 적응해야 할 수 있으며, 이는 창의적 프로세스와 관객이 그들의 콘텐츠를 어떻게 인식하는지에 영향을 줄 수 있습니다.
주요 도전과 논란:
– 효과적인 실행의 난제: 모든 AI로 생성된 콘텐츠가 정확하게 라벨링되도록 하는 것은 TikTok의 막대한 사용자 콘텐츠 양 때문에 어려울 수 있습니다.
– 개인정보 및 딥페이크: AI 기술이 딥페이크와 같은 그릇된 혹은 해로운 콘텐츠를 만드는 데 사용될 수 있다는 우려가 있으며, 라벨링은 이와 관련된 윤리적, 개인정보 문제를 완전히 완화시키지 못할 수도 있습니다.
장단점:
– 장점:
– 사용자들이 자신이 섭취하는 콘텐츠에 대해 더 현명한 결정을 내릴 수 있습니다.
– 잘못된 정보의 확산을 반대하는 투명성과 디지털 리터러시를 촉진합니다.
– 다른 플랫폼들이 AI 콘텐츠 식별에 대한 노력을 증가시키도록 전례를 제시할 수 있습니다.
– 단점:
– 시스템이 모든 AI로 생성된 콘텐츠를 포착하지 못할 수 있어 투명성의 결함이 생길 수 있습니다.
– 일부 콘텐츠 제작자들은 AI 콘텐츠에 라벨을 붙이는 것이 감소된 콘텐츠 글로벌 진입을 가져올 수 있다고 느낄 수 있습니다.
– 인간이 만든 콘텐츠가 실수로 AI로 생성된 것으로 잘못 라벨링되는 등의 잘못된 라벨링이 발생할 수 있습니다.
관련 링크(2023년 3월 이후의 정보임이 가정되며, 이 URL이 유효하고 관련성이 있다고 가정됩니다):
– TikTok
– Coalition for Content Provenance and Authenticity (C2PA)
– Partnership on AI (PAI)