인공 지능 (AI)은 다양한 산업을 혁신적으로 변화시켰으며, 이제 AI-생성 이미지가 소셜 미디어 플랫폼에도 그 흔적을 남기고 있습니다. 스탠포드 연구진이 최근 진행한 연구에서는 현실과 AI-생성 콘텐츠를 구분하는 데 어려움을 겪게 하는 명확한 라벨링이 없는 합성 이미지의 우려스러운 추세를 밝혀내었습니다.
Meta와 같은 기업은 사용자가 AI-생성 콘텐츠를 라벨링하도록 하는 정책을 시행하고 있지만, 대부분의 합성 이미지는 출처를 표시하지 않아 사용자들이 오보거나 AI-생성 콘텐츠에 취약해지는 문제점이 있습니다. 생성적 AI 기술의 보급으로 소셜 미디어에서의 미확인된 AI 이미지의 영향에 대한 우려가 제기되고 있습니다.
체계적인 라벨링의 부재는 특히 AI 기술에 익숙하지 않은 노년층 사용자들에게 상당한 영향을 미쳤습니다. 이러한 이미지가 포함된 게시물에 대한 댓글들은 일부 사용자들이 위조 콘텐츠에 속아드는 것으로 보여 AI-생성 이미지의 명확한 식별이 필요함을 강조하고 있습니다.
스탠포드 연구에서 발견된 문제 중 하나는 이러한 AI-생성 이미지가 자주 다른 사람이나 조직에서 도용한 Facebook 페이지에서 게시된다는 것입니다. 예를 들어, “Davie High School War Eagle Bands”라는 페이지는 북캐롤라이나주의 하이스쿨 밴드에서 도용당하고 예수와 승무원의 AI 이미지로 재사용되었습니다. 원래 소유자들은 페이지를 되찾고 Facebook에 신고해도 무응답이었습니다.
이러한 AI 스팸 페이지의 동기는 항상 분명하지 않지만, 속일 수 있는 사용자들을 유혹하기 위한 용도로 사용될 수 있다는 추측이 있습니다. AI-생성 이미지의 세심함이 관심을 끄는데, 그래서 이들은 스팸과 사기 행위자들에게 주요 표적이 됩니다. 이러한 페이지들은 때로 허위 팔로워들을 사용하여 합법성의 환상을 만들어내고 진짜 댓글러들과 상호작용합니다. 일부 사기 계정들은 사용자들로부터 개인 정보를 요구하거나 가짜 제품을 판매할 수도 있습니다.
NBC 뉴스가 실시한 검색에서는, 상호작용을 요청하는 계정들로부터의 여러 답글들이 발견되어, 비슷한 스크립트를 사용했습니다. 이 계정들은 개인 정보가 부족하고 수상한 행동을 보이며, AI-생성 이미지를 찬양하고 사용자들과 친구가 되길 바라는 댓글을 남기곤 합니다. 사용자들은 이러한 페이지에 경계심을 갖추었으며, 잠재적인 사기에 대해 다른 이에게 경고하기 시작했습니다.
소셜 미디어에서 AI-생성 이미지의 보편화는 걱정거리를 불러일으킵니다. 이는 오보의 확산을 막기 위한 더 명확한 라벨링과 개선된 감지 방법의 필요성을 강조합니다. 사용자들은 오보인지 의심스러운 콘텐츠와 상호작용할 때 반드시 경계를 가지고 주의하여야 합니다.
FAQs
The source of the article is from the blog combopop.com.br