인공 지능 개발 시에 넓은 시각이 필요함을 강조하는 기술 전문가들은 여성들의 다양성을 반영하는 표현을 만들어내야 한다. 워싱턴 포스트의 최근 인공지능 이미지 생성기(Dalle-E of OpenAI, Midjourney, Stable Diffusion)를 시험한 결과, 여성의 대다수 이미지가 젊고 날씬하며 큰 눈과 입, 길고 어두운 머리카락 등의 표준 아름다움 트로프를 보여주는 것이라는 불안한 패턴이 나타났다.
“보통 여성”으로 입력을 조정하자, 인공지능 시스템은 연령과 헤어스타일에서 더 다양성을 보여주었지만 옷 스타일과 색상에 있어 제한된 조합을 고수했는데, 대체로 중립적이고 부드럽고 미니멀리스트 적이며 바지가 우세했다. 그러나 인공지능이 비만 여성 이미지를 생성하도록 지시 받을 때, 표현된 것은 근소한 비만만이 나타나 실제 미국 성인 중 40% 이상이 비만임을 반영하지 못했다. 더욱이 “더 넓은 코”나 “더 못생긴 여성”과 같이 과장된 특징을 요구하면, 결과물 이미지는 부자연스럽고 심지어 무례하여 인공지능에 의도적이던지 아니던지 윤리적 문제가 있음을 강조했다.
인공지능 시스템을 훈련하는 데 사용된 소스는 문제의 원인으로 자주 언급되는데, 이러한 응용 프로그램에서 제시되는 여성의 비전은 애니메이션, 비디오 게임, 슈퍼히어로 영화, 심지어 옛날 디즈니 서술에 영향을 받은 것으로 보인다. 특히 문제가 되는 사실은 많은 인공지능 알고리즘이 처음에 성인 웹 사이트의 이미지로 훈련되었는데, 이는 개발자들이 지금 이러한 깊은 문제적 편향을 없애려고 노력 중이다.
성별 및 인종적 측면에 과도하게 집중하는 ‘워크’ 인공지능에 대한 반발은 이미 시작되었으며, 산업에 윤리가 프로그래밍의 중요성을 반영하도록 촉구하면서 인공지능 표현에 현실적이고 포괄적인 경험 배열을 통합하도록 산다.
인공지능에서 다양한 관점의 중요성
다양한 관점을 인공지능(AI) 프로그래밍에 통합해야 하는 필요성은 공정하고 편향되지 않고 세계인구를 반영하는 기술을 만들기 위한 것이기 때문에 생긴다. 개발 과정 중의 단일 문화적이거나 제한된 관점은 대표성의 부족과 고정 관념의 전파로 이어질 수 있다. 다양한 인구군에서 나오는 다양한 훈련 데이터 세트 사용은 공정한 AI 시스템을 구현하는 데 중요하다.
주요 질문 및 도전과제
핵심 질문은 다음과 같다:
1. 인공지능의 다양성이 효과적으로 측정되고 향상되는 방법은 무엇인가?
2. 사회에 편향된 AI의 영향은 무엇인가?
3. 인공지능의 다양성을 보장하는 데 누가 책임을 져야 하는가?
이에 대한 대답은 다음과 같은 주요 도전과제를 해결해야 한다:
– 인공지능을 디자인하고 훈련하는 팀이 다양한 배경과 시각을 포함하도록 하는 것
– 역사적으로 편향되지 않은 데이터 세트를 식별하고 확보함으로써 인구의 진정한 다양성을 대표하는 것
– 고정관념을 유지하거나 어떤 그룹에 대한 차별을 유발하지 않는 알고리즘 개발
– 인공지능 훈련 및 결과를 위한 투명한 지침 및 감사 메커니즘 실행
논란점
윤리적 프로그래밍과 개발자들이 시장 수요에 따라 인공지능을 만들 수 있는 자유 사이의 균형에 대한 논쟁이 종종 발생한다. 또한, 어느 정도까지 인공지능이 ‘워크’해야 하는지에 대한 범람이며, 사회의 다양한 부문이 정치적인 정황과 표현에 대한 다른 견해를 가지고 있기 때문에 논쟁적이다.
장단점
장점:
– 다양한 인공지능은 고정 관념과 편견을 제한하는 데 도움이 될 수 있다.
– 더 포괄적이고 대표적인 데이터 생성이 가능하며
– 인공지능의 다양성은 더 나은 의사 결정과 예측으로 이어질 수 있다.
단점:
– 크고 다양한 데이터 세트를 수집하고 유지하는 것은 어렵고 비용이 많이 들 수 있다.
– 사회의 일부 부문에서 이러한 노력을 불필요하거나 지나치게 정치적으로 본다는 반발이 있을 수 있다.
– 인공지능 시스템을 지속적으로 모니터링하고 사회적 변화를 반영하기 위한 업데이트는 복잡하고 자원이 많이 필요할 수 있다.
AI와 다양성에 대한 포괄적인 리뷰 및 지속적인 대화를 위해 MIT AI Lab나 DeepMind와 같은 신뢰할 수 있는 기술 및 AI 중심 웹 사이트를 방문하여 보세요.