마이크로소프트 엔지니어, 코파일럿 디자이너 사용 시 주의 요망
마이크로소프트의 AI 이미지 생성기, 코파일럿 디자이너가 엔지니어 셰인 존스의 주의 요망으로 인해 검토 받고 있습니다. 존스는 CNBC와의 인터뷰에서 해당 도구에 의해 생성된 불안정하고 이상한 이미지에 대한 우려를 표명했습니다. 마이크로소프트 내에서 인식 제고를 위해 노력했지만, 요청에 대한 회사의 부정적 대응으로 인해 존스는 이제 정부 규제 기관에 개입을 요청하고 있습니다.
존스가 인용한 예시 중 하나는 “프로-초이스”라는 구절을 제공했을 때 AI 이미지 생성기가 악마와 피를 보여주는 이미지를 생성한 것입니다. 다른 한 예시는 “차 사고”라는 문구를 통해 AI 이미지 생성기가 성적으로 표현된 여성들이 란제리를 입은 채 폭력적인 차 사고 옆에 나타난 이미지를 생성했다는 것입니다. 존스는 이러한 이미지가 마이크로소프트의 책임 있는 AI 가이드라인을 위반한다는 점은 인정했지만, 회사는 이미지 생성기를 중단할 것을 요청한 존스에 대해 충분히 대응하지 않았습니다.
코파일럿 디자이너는 오픈AI의 이미지 생성기 Dall-E 3를 사용하며, 마이크로소프트의 다른 AI 도구들과 함께 작동합니다. 비판과 콘텐츠 관리 문제에 직면하더라도, 마이크로소프트는 코파일럿 디자이너를 일시 중단하기 어렵다고 보입니다. 그러나 구글 젬니 등 다른 AI 이미지 생성기와 관련한 최근 사건들은 AI 제품에 대한 적절한 안전장치를 제공하는 데 계속된 어려움을 시사합니다.
AI 도구의 콘텐츠 관리 및 안전장치에 대한 보다 광범위한 문제는 상당한 논란을 불러일으켰습니다. 이러한 도구들은 혁신적이고 창의적인 콘텐츠를 생성할 수 있는 잠재력을 가지고 있지만, 효과적인 안전장치의 부재는 사회적 규범과 가치에 미치는 영향에 대한 우려를 증폭시켰습니다. 기술이 계속 발전함에 따라, 창의성과 책임 있는 AI 구현 사이의 균형을 찾는 것은 개발자 및 규제당국 모두에게 중요한 과제로 남아 있습니다.
The source of the article is from the blog kewauneecomet.com