워터마킹은 인간이 생성한 콘텐츠와 인공지능이 생성한 콘텐츠를 구별하기 위한 잠재적인 해결책으로 제안되었습니다. 그러나 삭제와 조작에 대한 저항력을 갖춘 효과적인 워터마크를 구현하는 것은 상당한 도전을 겪고 있습니다.
디지털 이미지에 대한 일반적인 워터마크 유형 중 하나는 스톡 이미지 사이트가 텍스트를 오버레이하는 것입니다. 이 유형의 워터마크는 보이지만 사진 편집 기술 없이는 제거하기가 어려워 인간이 생성한 이미지에 적합하지 않습니다. 그렇게 되면 이미지가 게시에 적합하지 않게 됩니다.
또 다른 워터마크 유형은 메타데이터입니다. 메타데이터는 시각적으로 간섭이 없지만 파일에서 쉽게 제거될 수 있습니다. 메타데이터는 이미지의 날짜, 시간, 위치, 작성자와 같은 정보를 제공할 수 있습니다. 그러나 소셜 미디어 사이트는 이미지를 업로드할 때 메타데이터를 자동으로 제거하여 저장 공간을 절약합니다.
AI가 생성한 이미지에 대한 유용한 워터마크는 자르기, 회전, 편집 후에도 발견 가능해야 합니다. 이미지의 가장 인지하기 어려운 비트를 조작하여 뷰어에게는 보이지 않지만 워터마크 감지 프로그램에서는 검출할 수 있는 패턴을 만드는 기술이 하나 있습니다. 그러나 이 방법은 이미지를 회전하거나 크기 조정하는 것으로 쉽게 파괴될 수 있습니다.
더 정교한 워터마킹 제안안들은 편집의 다양한 범위에 대해 강력한 대응력을 가질 수 있습니다. 그러나 이러한 제안안은 워터마크에 대해 인식하고 제거하려고 하는 개인들에 대해서도 강력한 대응력을 가지고 있어야 합니다. 개인이 이미지 파일을 직접 조작함으로써 비교적 시각적인 변화 없이 워터마크를 제거할 수 있습니다.
또 다른 접근 방식으로는 일부 기업들이 콘텐츠의 정품성을 검증하기 위해 카메라가 생성한 이미지에 메타데이터를 추가하고 암호화 서명을 사용하는 방식을 탐구하고 있습니다. 이 접근 방식은 워터마크 제거의 문제를 해결하긴 하지만, 모든 사진 편집 소프트웨어에서 확인 가능성을 보장하는 복잡한 방식이며, 대부분의 카메라는 이러한 메타데이터를 생성하지 않기 때문에 그 효과성이 제한됩니다.
텍스트 기반 생성적인 AI의 워터마킹은 더 큰 도전을 제기합니다. 단어 기반 워터마크는 텍스트 스타일을 확립하기 위해 생성될 수 있지만, 다시 말로 바꿔서 제거하기 쉬운 취약점을 가지고 있습니다. 또한 감지 도구의 가용성에 대한 우려도 있습니다. 공개적으로 사용 가능한 도구를 통해 반복적인 편집이 감지를 피할 수 있으며, 도구를 비밀로 유지하는 것은 유용성을 제한하고 워터마크 회사에 의존해야 한다는 문제점을 가지고 있습니다.
결론적으로, 워터마킹과 콘텐츠의 정품성은 잠재적인 접근 방식이지만, 두 가지 모두 한계가 있으며 포괄적인 해결책은 아닙니다. 인터넷의 대부분의 이미지와 텍스트는 어떠한 형태의 워터마크나 콘텐츠의 정품성 메타데이터도 갖고 있지 않을 것입니다.
The source of the article is from the blog macholevante.com