최근 AI 기술 기업이 엄격한 콘텐츠 관리 정책을 도입했다. 이 회사는 이전에는 다양한 콘텐츠를 통제하던 정책을 개선하고 수정했다. 이러한 변경사항은 회사의 독립적인 콘텐츠 관련기구의 추천을 받은 결과라고 한다. 그 기구는 회사의 과거 정책을 “불일치하고 혼동스러운” 것으로 평가하고, 기업이 자신의 접근 방식을 재고해야 한다고 주장했다.
이 회사의 새로운 정책이 적용된 동기는 Facebook에 올라온 바이든 대통령을 비하하는 편집된 비디오에서 시작되었다. 이 비디오는 바이든 대통령이 성적으로 불쾌한 행동을 한 것처럼 만들어진 것이었다. 이러한 비디오는 인공지능을 사용하여 만들어진 것이 아니며 대통령이 실제로 한 것이 아닌 어떤 행동도 보여주지 않았기 때문에 Meta의 정책을 명확히 위반하지 않았다.
그러나 감독기관은 Meta의 현재 정책을 “불일치”하다고 비판했고 콘텐츠 제작 방법보다는 선거 방해와 같은 특정 피해를 예방하는 데 더 많은 신경을 써야 한다고 주장했다. Meta는 인공지능으로 생성된 콘텐츠에 레이블을 붙일 것이고 조작된 미디어에 “정보 레이블과 맥락”을 제공하는 정책을 조정할 것이라고 발표했다. 이는 사용자에게 소비하는 콘텐츠에 대해 더 많은 정보와 맥락을 제공하여 단순히 커뮤니티 기준 위반에 따라 콘텐츠를 제거하는 것이 아니라는 취지이다.
수정된 정책은 조작된 미디어 외에도 Meta의 기존 정책보다 넓은 범위의 콘텐츠를 다루며, 감독기관의 추천에 따라 더 근거있는 레이블을 디지털로 생성되거나 변경된 이미지, 비디오 또는 중요한 문제에 대한 대중을 혼란스럽게 만들 가능성이 높은 오디오에 추가할 것이라고 한다. 이 접근 방식은 AI 기술이 다양한 매체를 통해 현실적인 콘텐츠를 생성할 수 있는 수준으로 진보함에 따라 조작 문제에 대처해야 한다는 Meta의 인정을 반영한다.
이러한 변화는 Meta의 이전 조작 및 AI 생성 콘텐츠에 대한 입장에서의 중요한 변화를 표시하며, 진화하는 기술이 가져오는 문제에 대처하기 위해 중요하다. 사용자가 비디오 및 오디오 클립을 수정하거나 위조하기 쉽게 만드는 AI와 같은 도구로 인해 잘못된 정보와 유권자 억제 가능성은 우려사안이다. 이러한 문제를 해결하기 위한 Meta의 약속은 온라인 콘텐츠의 품위를 유지하고 민주적 프로세스를 보전하는 데 중요한 단계이다.
### 자주 묻는 질문
Q: Meta가 새로운 정책을 시행하게 된 원인은 무엇인가요?
A: Meta가 조작된 및 인공지능 생성 콘텐츠에 대한 새로운 정책을 시행한 결정은 Meta 감독기구의 추천으로 인해 내렴받았습니다. 이 기구는 회사의 이전 정책이 명확하지 않고 재고가 필요하다고 판단했습니다.
Q: Meta의 새로운 정책이 조작된 미디어에 어떻게 영향을 미치나요?
A: 새로운 정책에 따르면 Meta는 조작된 미디어에 대해 즉시 제거하는 대신 “정보 레이블과 맥락”으로 표시할 것입니다. 그 의도는 사용자에게 소비하는 콘텐츠에 대해 더 많은 정보 및 맥락을 제공하는 데 있습니다.
Q: Meta의 새로운 정책은 조작된 비디오에만 적용되나요?
A: 아니요, 새로운 정책은 조작된 비디오 이외의 더 넓은 범위의 콘텐츠를 포함할 것입니다. Meta는 대중을 속이는 데 높은 위험을 가진 디지털적으로 생성된 또는 변경된 이미지, 비디오 또는 오디오에 더 두드러진 레이블을 추가할 것입니다.
Q: Meta가 이러한 변화를 왜 결정했나요?
A: Meta는 이전 조작 콘텐츠에 대한 접근 방식이 한정적이고 AI 기술의 발전을 고려하지 않았음을 인정했습니다. 회사는 오디오 및 사진과 같은 여러 매체에서의 조작을 막기 위해 대응해야한다는 필요성을 인정했습니다.
소스:
– [Meta 공식 발표](https://www.meta.com/newsroom/meta-implements-new-policies-manipulated-ai-generated-content)
– [Meta 감독기구의 추천](https://www.metaoversightboard.com/recommendations/manipulated-ai-generated-content)
산업 및 시장 전망:
소셜 미디어 산업은 기술의 진보와 사용자 행태 변화에 이끌려 빠른 성장과 변혁을 경험하고 있다. Statista의 보고서에 따르면, 글로벌 소셜 미디어 시장은 2019년부터 2023년까지 연평균 성장률(CAGR)이 11.9%인 1,864억 달러에 이를 것으로 전망되며, 이러한 성장은 인터넷 보급 증가, 모바일 기기의 증가, 그리고 소셜 네트워킹 플랫폼의 인기 증대 등의 요인으로 기인한다.
그러나 이 산업은 개인정보 보호, 잘못된 정보의 확산, 플랫폼의 해로운 활동을 둘러싼 다양한 과제에 직면하고 있다. 특히 조작된 및 AI 생성 콘텐츠는 온라인 콘텐츠의 품위와 민주적 프로세스를 위협하는 중요 문제로 대두되었습니다.
조작된 및 AI 생성 콘텐츠와 관련된 문제:
AI 기술의 확대로 사용자들이 조작된 미디어를 만들고 공유하기가 더욱 쉬워졌습니다. 이로인해 잘못된 정보, 선전 및 심지어 대중의 의견이 조작될 가능성에 대한 우려가 제기되었습니다. 정치 캠페인 및 선거의 맥락에서, 조작된 콘텐츠는 신뢰를 훼손시키고 사실을 왜곡하며 유권자 행태에 영향을 미칠 수 있습니다.
또한 AI 기술의 빠른 발전으로 인해 콘텐츠 관리 시스템이 조작된 및 AI 생성 콘텐츠의 탐지 및 제거에 대응하기가 점점 어려워지고 있습니다. 이러한 콘텐츠의 규모와 정교함이 자동화된 프로세스만으로는 문제를 효과적으로 해결하기 어렵게 만들고 있습니다.
이러한 과제에 대처하기 위해 Meta와 같은 소셜 미디어 플랫폼은 정책을 개선하고 콘텐츠 관리 전략을 강화하기 위한 압력을 받고 있습니다. Meta 감독기구의 추천과 Meta의 이후 정책 조정은 조작된 및 AI 생성 콘텐츠와 싸움을 위해 더 강력한 조치가 필요하다는 업계의 인식을 반영합니다.
레이블링과 맥락을 중점으로 한 정책을 시행함으로써 Meta는 사용자가 만족할만한 판단을 내릴 수 있도록 필요한 정보를 제공할 수 있기를 바랍니다. 이 접근 방식은 잘못된 정보의 확산에 대처하고 미디어 문해력을 증진시키려는 노력과 일치합니다. 또한 조작된 및 AI 생성 콘텐츠에 의해 야기되는 위험에 대한 업계의 보다 세련된 이해로 이어지고 있습니다.
소셜 미디어 산업은 조작된 및 AI 생성 콘텐츠가 제기하는 도전에 적응하고 있습니다. Meta의 정책 변경은 온라인 콘텐츠와 미디어 조작의 진화하는 풍경에 대처하기 위한 한 걸음이며, 레이블링과 맥락에 초점을 맞춘 전략을 통해 Meta는 사용자들에게 디지털 공간을 탐색하고 정보에 기반한 결정을 내릴 수 있도록하는 것을 목표로 하고 있습니다.
The source of the article is from the blog lisboatv.pt