구글이 인공지능(AI) 차팅봇인 ‘지미니(Gemini)’가 올해 진행되는 세계적인 선거에 관한 질문에 대한 답변을 제한하고 있다고 발표했다. 이 결정은 AI 기술의 전개 과정에서 발생할 수 있는 잠재적인 실수를 방지하기 위한 노력으로 이루어진다. 생산적인 AI의 발전으로 진보한 기술이 가질 수 있는 잘못된 정보와 가짜 뉴스에 대한 우려가 커지면서, 전 세계 정부들이 해당 기술을 규제하는 조치를 취하고 있다.
인터넷 기업 알파벳 소유의 구글이 개발한 ‘지미니’는 다양한 주제에 대해 질문에 응답하도록 프로그래밍되어왔다. 그러나 미국 내에서 조 바이든 대 도널드 트럼프 대통령 후보자 경합과 같은 다가오는 선거에 대한 질문을 하면, ‘아직 이 질문에 대답하는 방법을 배우고 있습니다. 그 동안 구글 검색을 시도해보세요’라고 대답한다.
구글은 이러한 제약사항을 이전에 미국 내에서 발표했으며, 이는 선거 이전인 12월부터 시행되었다. 2024년 전 세계적으로 발생할 다수의 선거에 대비하여 회사는 ‘지미니’가 답변을 제공할 선거 관련 질문의 종류를 제한하고 있다. 남아프리카와 인도를 비롯한 여러 대형 국가에서 국가 선거가 예정되어 있다.
세계 최대 민주주의 국가인 인도는 ‘신뢰할 수 없는’ 것으로 간주되거나 여전히 시험 단계에 있는 AI 도구를 공개하기 전에 기술 기업이 정부 승인을 받도록 요구하는 선제적인 접근을 취했다. 또한 정부는 이러한 도구들이 부정확한 답변의 가능성을 인정하는 표시가 되도록 요구하고 있다.
구글의 AI 제품은 ‘지미니’가 인물의 역사적 묘사를 부정확하게 생성하는 일이 발생한 후, 검토를 받았다. 이로 인해 차팅봇의 이미지 생성 기능이 중단되었다. 구글의 CEO 선다르 피차이는 이 문제를 인정하고 차팅봇의 응답을 ‘편향된’ 것이며 ‘완전히 인정할 수 없는’ 것이라고 설명했다. 회사는 이러한 결점을 해결하고 보완하기 위해 노력하고 있다.
디스인포메이션와 생성적 AI 남용에 대한 우려가 증가함에 따라 페이스북의 모회사인 메타 플랫폼이 6월 유럽 의회 선거에 대비하여 이 문제를 대처하기 위한 전담 팀을 구성했다.
FAQ
Q: 왜 구글은 AI 차팅봇 지미니가 선거 질문에 대한 답변을 제한하고 있나요?
A: 구글은 AI 차팅봇 지미니가 선거 질문에 대한 답변을 제한함으로써 AI 기술의 전개과정에서 발생할 수 있는 잠재적인 실수를 피하고 전 세계적인 선거 기간 중의 잘못된 정보와 가짜 뉴스에 대한 우려를 해소하기 위한 조치를 취하고 있습니다.
Q: 지미니는 다가오는 선거에 대해 어떤 대답을 제공하나요?
A: 조 바이든 대 도널드 트럼프 대통령 후보자 경합과 같은 다가오는 선거에 대한 질문을 받았을 때, 지미니는 “이 질문에 대한 답변 방법을 아직 배우고 있습니다. 그 동안 구글 검색을 시도해보세요”라고 응답합니다.
Q: 어떤 국가들이 국가 선거를 진행하고 있나요?
A: 남아프리카와 인도를 비롯한 여러 대형 국가에서 국가 선거가 예정되어 있습니다.
Q: 인도는 AI 도구에 관해 어떤 조치를 취했나요?
A: 인도는 테크 기업이 ‘신뢰할 수 없는’ 것으로 간주되거나 아직 시험 단계에 있는 AI 도구를 공개하기 전에 정부 승인을 받도록 요구하는 규정을 도입했습니다. 또한 이 도구들은 잘못된 답변의 가능성을 인정하는 레이블이 달려야 합니다.
Q: 구글은 지미니의 이미지 생성 기능의 부정확성에 대해 어떻게 대응하고 있나요?
A: 구글 CEO 선다르 피차이는 지미니의 이미지 생성 기능의 부정확성과 편향성을 인정했습니다. 회사는 이러한 문제를 해결하고 차팅봇의 응답을 개선하기 위해 노력하고 있습니다.
Q: 메타 플랫폼은 디스인포메이션과 생성적 AI 남용에 대응하기 위해 어떤 조치를 취했나요?
A: 페이스북의 모회사인 메타 플랫폼은 6월 유럽 의회 선거에 대비하여 이러한 문제를 대처하기 위한 전담 팀을 구성했습니다.
용어 정의
- AI 차팅봇: 인공지능을 사용하여 인간 대화를 시뮬레이션하고 자동 응답을 제공하는 컴퓨터 프로그램입니다.
- 생산적 AI: 학습한 패턴과 데이터에 기초하여 텍스트, 이미지 또는 비디오 등의 원본 콘텐츠를 생성할 수 있는 인공지능의 한 유형입니다.
- 잘못된 정보: 헷갈리거나 오해를 일으킬 수 있는 거짓이거나 부정확한 정보입니다.
- 가짜 뉴스: 종종 사람들을 속이거나 조종하기 위해 만들어진 거짓이거나 오도하는 정보로 제시된 정보입니다.
- 테크 기업: 소프트웨어, 하드웨어 또는 다른 기술 제품의 개발 및 생산에 전문화된 기술 회사들을 말합니다.
- 국가 선거: 전국적으로 진행되는 선거로 국가 정부 직위를 선출하는 대표자를 선출합니다.
- 이미지 생성 기능: 지미니 차팅봇의 입력 데이터를 기반으로 사람이나 물체의 시각적 표현을 생성하는 기능입니다.
- 디스인포메이션: 개인 또는 그룹을 속이거나 조종하려고 의도적으로 공표된 부정확한 정보입니다.
- 생성적 AI 남용: 생성적 AI 기술을 남용하거나 이용하여 오도하거나 해로운 콘텐츠를 만들어 퍼뜨리는 것을 말합니다.
- 유럽 의회 선거: 유럽 연합 회원국에서 유럽 의회에 대표를 선출하기 위해 실시되는 선거입니다.
The source of the article is from the blog be3.sk