메타 플랫폼은 페이스북과 인스타그램의 모회사로서, 다른 회사가 제공하는 인공지능(AI) 서비스로 생성된 이미지를 감지하고 라벨링할 계획을 발표했습니다. 이 회사는 이미지 파일에 포함된 보이지 않는 마커를 사용하여 실제 사진과 디지털로 생성된 콘텐츠를 구별할 것입니다. 이 라벨링 시스템은 메타의 플랫폼에 공유된 마커를 가진 어떤 콘텐츠에도 적용될 것입니다.
이 라벨링 시스템의 도입은 생성적 AI 기술로 생산된 오도독하고 가짜 콘텐츠의 보급에 대응하기 위한 노력입니다. 이러한 기술은 간단한 유도에 대해 현실적으로 보이는 이미지를 생성할 수 있어서 남용될 경우에 따른 잠재적인 피해에 대한 우려가 제기되었습니다. 메타의 라벨링 이니셔티브는 생성적 AI의 부정적인 영향을 완화하기 위해 기술 산업 내에서 큰 움직임의 일부입니다.
메타의 글로벌 사업 책임자 닉 클레그는 회사가 AI 생성 이미지를 신뢰할 수 있게 라벨링하는 능력에 대한 확신을 표명했습니다. 그러나 그는 오디오와 비디오 콘텐츠에 대한 유사한 도구 개발의 복잡성을 인정했습니다. 오디오와 비디오에 대한 마킹 기술은 아직 완전히 성숙한 수준이 아니지만, 메타는 개인들이 자신의 변경된 오디오와 비디오 콘텐츠에 라벨을 달도록 요구하고, 이러한 요구를 준수하지 않는 경우에는 벌금을 부과할 예정입니다.
메타의 라벨링 이니셔티브는 현재 ChatGPT와 같은 AI 도구로 생성된 텍스트에는 적용되지 않습니다. 클레그는 현재 이러한 콘텐츠에 대한 라벨링을 위한 실현 가능한 메커니즘이 아직 없다고 밝혔습니다. 또한 메타가 암호화된 메시징 서비스인 WhatsApp에서 생성적 AI 콘텐츠에 라벨을 적용할지에 대해서는 아직 명확하지 않습니다.
메타의 독립적 감독 위원회에 의해 메타의 잘못된 조작된 동영상에 대한 정책이 조사되었고, 이를 계기로 클레그는 개선된 조치가 필요하다는 점을 인정했습니다. 위원회는 해당 콘텐츠를 제거하는 대신 라벨링하는 것을 권장했고, 클레그는 이 평가에 동의했습니다. 다른 기술 회사들과의 라벨링 파트너십을 통해 메타는 이러한 우려에 대한 대응을 보이고자 합니다.
결론적으로, 메타 플랫폼이 AI 생성 이미지에 라벨을 달기로 한 결정은 잘못된 정보에 대항하고 투명성을 높이기 위한 중요한 한 걸음입니다. 기술 산업이 생성적 AI 기술이 가져오는 과제와 논란에 대응하는 과정에서 이러한 라벨링 이니셔티브와 같은 협력적인 노력이 책임 있는 AI 사용을 정립하는 데 중요한 역할을 합니다.
FAQ 섹션:
Q: 메타 플랫폼은 무엇인가요?
A: 메타 플랫폼은 페이스북과 인스타그램의 모회사입니다.
Q: 메타는 인공지능(AI) 생성 이미지에 대한 어떤 계획을 가지고 있나요?
A: 메타는 다른 회사가 제공하는 AI 서비스로 생성된 이미지를 감지하고 라벨링할 계획입니다. 이미지 파일에 보이지 않는 마커를 사용하여 실제 사진과 디지털로 생성된 콘텐츠를 구별할 것입니다.
Q: 왜 메타는 이러한 라벨링 시스템을 도입하고 있나요?
A: 메타는 생성적 AI 기술로 생성된 잘못된 정보와 가짜 콘텐츠의 보급 문제에 대응하기 위한 목적으로 이 시스템을 도입하고 있습니다.
Q: 생성적 AI 기술이 제기하는 우려는 무엇인가요?
A: 생성적 AI 기술은 단순한 유도에 대해 현실적으로 보이는 이미지를 생성할 수 있기 때문에, 그 남용에 따른 잠재적인 피해에 대한 우려가 제기되고 있습니다.
Q: 메타는 자체적으로 AI 생성 이미지에 라벨을 달 수 있는 자신감을 가지고 있나요?
A: 네, 메타의 글로벌 사업 책임자 닉 클레그는 회사가 AI 생성 이미지를 신뢰할 수 있게 라벨링할 수 있는 능력에 대한 자신감을 표명했습니다.
Q: 이 라벨링 시스템은 오디오와 비디오 콘텐츠에도 적용되나요?
A: 현재 오디오와 비디오에 대한 마킹 기술은 아직 완전히 성숙한 수준이 아닙니다. 메타는 개인들에게 자신의 변경된 오디오와 비디오 콘텐츠에 라벨을 달도록 요구할 예정이지만, 자동으로 이러한 콘텐츠에 라벨을 달 수 있는 도구는 아직 준비되어 있지 않습니다.
Q: 메타는 WhatsApp에서 생성적 AI 콘텐츠에 라벨을 적용할 예정인가요?
A: 메타가 암호화된 메시징 서비스인 WhatsApp에서 생성적 AI 콘텐츠에 라벨을 적용할지에 대해서는 아직 명확하지 않습니다.
Q: 메타가 이 라벨링 이니셔티브를 도입한 이유는 무엇인가요?
A: 메타는 잘못된 조작된 동영상에 대한 정책을 향상시킬 필요성을 직면하였고, 이를 위해 라벨링을 권장한 독립적 감독 위원회의 평가에 동의했습니다.
핵심 용어/전문 용어:
– 인공지능(AI): 기계에 의한 인간의 지능적인 과정을 모방한 것으로, 학습, 추론 및 자가 수정 능력을 포함합니다.
– 생성적 AI: 프롬프트나 예시를 기반으로 이미지, 오디오 또는 비디오와 같은 새로운 콘텐츠를 생성할 수 있는 AI 기술입니다.
– 잘못된 정보: 사실이 아니거나 왜곡된 현실을 제시하여 시청자를 속이거나 조작하는 콘텐츠입니다.
– 라벨링 시스템: 콘텐츠에 추가 정보나 문맥을 제공하기 위해 마커 또는 태그를 할당하는 시스템입니다.
관련 링크:
– 메타 (Meta)
– 페이스북 (Facebook)
– 인스타그램 (Instagram)
The source of the article is from the blog tvbzorg.com