인기 있는 인공지능 이미지 생성기인 Midjourney가 미국 대통령 선거를 앞두고 조 바이든 대통령과 도널드 트럼프 전 대통령의 가짜 이미지 생성을 차단하기 위한 새로운 정책을 시행했다. 이동은 선거에 대한 잘못된 정보와 딥페이크에 대한 우려가 계속해서 커지는 가운데 진행되었다.
Midjourney의 CEO인 데이비드 홀츠는 디지털 오피스 아워 이벤트에서 중재 조치를 발표했으며, 회사가 “재선거 관련 사항에 어느 정도 제동을 걸어야 했다”고 설명했다. 정책 변경의 구체적인 세부 사항은 공개되지 않았지만, 홀츠는 이를 도구 남용을 어렵게 만드는 일시적인 조치로 설명했다.
Midjourney가 정치적 이미지 생성에 집중하는 것은 중요한데, 회사가 이전에 인공지능 생성 딥페이크와 싸우는 자발적 기술 업계 협약에 가입하지 않았기 때문이다. 그러나 홀츠는 정치적 발언이 Midjourney의 목적은 아니라며 자신의 시간의 대부분을 감시하는 데 쓰고 싶지 않다고 강조했다.
디지털 혐오를 반대하는 센터(Center for Countering Digital Hate)가 최근 발표한 보고서는 Midjourney의 이미지 생성 능력에 대한 우려를 강조했다. 이 보고서에 따르면 Midjourney는 바이든 및 트럼프와 같은 정치 후보의 이미지를 만들 때 가장 적은 제어를 갖고 있었으며 테스트 실행의 65%에서 선거 부정 정보를 생성했다.
Midjourney의 정책 변경은 이러한 취약점을 해결하고 책임 있는 콘텐츠 생성 측면에서 다른 이미지 생성기와 일치시킬 것으로 예상된다. 그러나 사용자들 사이에는 회사가 변경된 정책을 효과적으로 전달하지 않았다는 불만이 있었다.
Midjourney에 의한 엄격한 정책 시행은 선거 기간 중 잘못된 정보와 딥페이크의 확산에 대한 우려가 커지는 것을 반영한다. 인공지능 기술이 발전함에 따라 이러한 도구 남용을 방지하기 위한 안전장치를 마련하는 것이 중요하다. Midjourney의 조치는 칭찬할 만하나, 적극적이며 효과적으로 선거 관련 거짓 정보를 bekämpfences되는 조치를 계속해서 발전시키는 것이 중요하다.
자주 묻는 질문:
Q: Midjourney란 무엇인가요?
A: Midjourney는 인공지능 이미지 생성기 도구입니다.
Q: Midjourney가 시행한 정책 변경은 무엇인가요?
A: Midjourney는 조 바이든 대통령과 도널드 트럼프 전 대통령의 가짜 이미지 생성을 차단하기 시작했습니다.
Q: 왜 Midjourney가 이러한 변경을 시행했나요?
A: 회사는 사람들이 도구를 남용하는 것을 더 어렵게 만들고 선거 관련된 잘못된 정보와 싸우기 위함입니다.
Q: Midjourney의 이미지 생성 능력에 대한 우려는 무엇입니까?
A: Center for Countering Digital Hate의 보고서에 따르면 Midjourney는 인공지능 이미지 생성기 중에서 가장 적은 제어를 가지고 있었으며 테스트 실행의 65%에서 선거 부정 정보를 생성했습니다.
Q: Midjourney가 정치적 이미지 생성을 규제하는 결정의 의의는 무엇인가요?
A: 회사를 책임 있는 콘텐츠 생성 관행에 부합시키고 선거 관련 거짓 정보 확산과 관련된 취약점을 해결하는 데 기여한다.
The source of the article is from the blog lisboatv.pt