Midjourney AI, AI 이미지 생성기 비둘기든 트럼프 전 대통령에 가짜 이미지 차단
Midjourney 인기 인공지능 이미지 생성기가 대통령 조 바이든과 전 대통령 도널드 트럼프의 가짜 이미지 작성을 방지하기 위해 새로운 정책을 시행했습니다. 회사는 디지턈 오피스 아워 이벤트 도중 이러한 이미지 생성을 차단하는 새로운 정책을 시행했다고 발표했습니다. 이미지 생성에 대한 제한은 미 대통령 선거 기간 동안 도구 남용을 억제하기 위한 임시 조치라고 설명했습니다.
Midjourney의 CEO인 데이비드 홀츠는 운용 정책을 강화하는 것이 얼마나 어려운지 강조했지만 사용자가 이미지 생성기를 남용하기 어렵게 만들려는 회사의 목표를 강조했습니다. 정책 변경의 구체적인 세부사항은 공개되지 않았지만 회사는 문제를 해결하기 위한 조취를 취하고 있습니다. Associated Press는 추가 의견을 얻기 위해 Midjourney에 연락을 시도했지만 보도 시점에서 응답을 받지 못했습니다.
AP가 발표 이후 Midjourney의 인공지능 도구 시험을 진행한 결과, “해변에서 손을 흔들고 있는 트럼프와 바이든” 이미지를 만들려는 시도는 금지되었다는 경고 메시지가 표시되었습니다. 두 번째 시도는 새 정책의 엄격한 시행을 나타내는 남용 경보를 발생시켰습니다.
11명의 직원만 있는 작은 회사인 Midjourney는 generative AI 도구 및 선거 의사론에 영향을 미칠 수 있는 역할에 대한 토론에서 크게 침묵하기로 선택했습니다. 다른 많은 주요 이미지 생성 도구와 달리 Midjourney는 2월 산업 내 이니셔티브에 참여하지 않았고 유꾸한 AI 생성 딥페이크 작성에 맞서기 위한 노력을 하지 않았습니다.
Midjourney가 정치 발언이 중요한 포커스가 아니라고 인정하면서, 홀츠는 도구 남용을 방지하기 위해 경계를 설정하는 필요성을 강조했습니다. Center for Countering Digital Hate는 이번 달 초 Midjourney의 이미지 생성기가 선거 정보 조작 또는 선거 부정 사례의 잘못된 주장을 지원할 수 있는 이미지를 작성하는 데 사용되었다고 보고했습니다. 또한 이 보고서는 다른 도구에 비해 Midjourney에 제한이 없어 조작 가능성이 높다고 강조했습니다.
특히 선거 기간 중 AI 생성된 정보를 처리하는 것이 중요합니다. Midjourney가 Biden과 Trump와 같은 정치인들에 대한 가짜 이미지 생성을 제한하는 결정은 조작된 콘텐츠의 보급을 줄이기 위한 중요한 단추입니다. 그러나 Center for Countering Digital Hate의 보고서에서 언급되듯이 오도된 이미지 생성을 방지하는 데 다른 이미지 생성기도 도전을 겪고 있다는 점을 기억하는 것이 중요합니다.
AI 기술의 채택이 계속 진행됨에 따라, AI 도구 남용의 방지를 위한 포괄적인 정책과 업계 간 협력을 확립하는 것이 중요합니다. 미래에는 AI 도구의 창의적 가능성을 탐색할 수 있도록 허용하면서 그 남용을 방지하기 위한 노력에 중점을 두어야 합니다.
#### 자주 묻는 질문
1. Midjourney란 무엇인가요?
Midjourney는 사용자가 주어진 프롬프트를 기반으로 다양한 이미지를 생성할 수 있는 인공지능 이미지 생성기입니다. 회사는 새로운 사고 매체를 탐구하며 인간 종의 상상력을 확대하는 독립적 연구소로 설명됩니다.
2. 왜 Midjourney가 바이든과 트럼프의 가짜 이미지 생성을 차단하기 시작했나요?
Midjourney는 미국 대통령 선거 기간 동안 이미지 생성기 남용을 방지하기 위해 이 정책을 시행했습니다. 회사는 선거에 대한 잘못된 정보에 기여할 수 있는 오도된 이미지를 생성하는 사용자를 어렵게 만들기 위한 목표를 가지고 있습니다.
3. Midjourney와 다른 이미지 생성기와 어떻게 다른가요?
Midjourney의 독특한 측면 중 하나는 사용자들이 다른 사람들의 프롬프트와 이미지를 볼 수 있는 Discord라는 소셜 미디어 플랫폼의 공개 포럼입니다. 또한 Midjourney는 AI 및 미래에 대한 오픈 대화를 가능하게 하는 Discord에서 주간 오피스 아워를 개최합니다.
4. 선거 기간 동안 AI 생성된 오도된 정보에 어떤 우려가 있나요?
AI 생성된 오도된 정보는 선거 기간 중 공공 의견을 조작하고 거짓 정보를 보급할 수 있기 때문에 중요한 위험이 됩니다. Midjourney 및 다른 회사들은 이러한 위험을 완화하기 위해 이미지 생성 및 유포를 방지하기 위한 정책 및 기술을 실행함으로써 중요한 역할을 합니다.
5. AI 생성된 오도된 정보를 대처하는 미래 도전 과제는 무엇인가요?
AI 기술이 발전함에 따라 AI 생성된 오도된 정보를 대처하는 도전은 계속될 것으로 예상됩니다. 창의적 탐구를 촉진하고 AI 도구의 남용을 방지하는 것 사이의 균형을 잡는 것은 계속된 노력, 협력 및 산업 내 포괄적인 정책 개발을 요구할 것입니다.
Midjourney 웹사이트를 방문하여 자세한 내용을 확인하십시오.
참고: 기사의 원문은 여기에서 확인할 수 있습니다.
The source of the article is from the blog agogs.sk