인공지능 챗봇인 구글의 Gemini는 올해 투표가 예정된 국가에서 선거 관련 질문에 대한 답변 능력이 제한될 예정입니다. 미국과 인도에서 이미 시행 중인 이 결정은 2024년 예정된 다른 국가로 확대될 예정입니다. 이러한 조치는 잘못된 정보의 확산을 방지하고 민주 프로세스의 품위를 지키기 위한 것입니다.
이러한 제한 조치의 시행은 전 세계의 정부와 규제 기관들이 인공지능의 급속한 발전과 선거에 대한 잠재적 위협을 어떻게 대응할지에 대한 고민 중에 있을 때 이뤄졌습니다. AI로 생성된 잘못된 정보, 딥 페이크, 그리고 선거에 대한 프로파간다로부터 우려되는 것들이 있어서, 구글과 같은 주요 기술 기업들은 자사의 AI 도구의 오용을 통제해야 한다는 압력에 직면하고 있습니다.
Gemini는 선거와 관련된 질문에 대한 응답으로 “아직 이 질문에 대한 답을 배우고 있습니다. 그 동안 구글 검색을 시도해보세요”와 같이 회피적인 답변을 제공합니다. 투표 등록에 대한 질문조차도 검색 엔진으로 안내받게 됩니다. 이러한 제한은 챗봇을 통해 직접적인 답변을 찾는 일부 사용자들을 답답하게 할 수 있지만, 편향된 정보나 오도된 정보의 확산을 방지하는 역할을 합니다.
잘못된 정보에 대한 대규모 대응을 위해, 구글은 디지턈 워터마킹과 AI로 생성된 콘텐츠에 대한 콘텐츠 라벨링을 포함한 여러 기능을 도입하고 있습니다. 이러한 조치들은 다양한 플랫폼을 통해 확산되는 오도된 정보를 식별하고 완화하는 데 목적을 두고 있습니다.
Gemini는 역사적인 상황에 대한 프롬프트에 응답하여 인종 상차별적 이미지를 부정확하게 생성했다는 비판을 받은 바 있습니다. 이에 대응하기 위해 구글은 일부의 Gemini 기능을 일시 중단하고 문제에 대처하기로 했습니다. 이 사건은 기술의 사회적 영향을 관리하는 데 직면한 AI 기업들이 직면하는 과제를 강조합니다.
OpenAI와 구글을 포함한 주요 AI 기업들은 민감한 질문에 대한 자사의 챗봇 기능을 차단하는 데 점점 더 의향이 있다고 합니다. 그러나 어떤 질문을 제한할지에 대한 결정은 고유한 도전 과제를 안고 있습니다. 최근의 보고서에 따르면, Gemini는 팔레스타인에 대한 질문에 대답을 거부했지만 이스라엘에 대한 유사한 질문에는 미처리했던 것이 밝혀졌습니다.
Gemini의 선거 관련 기능에 대한 제한은 챗봇을 통한 정치 정보에 대한 즉각적인 접근을 제한할 수 있으나, AI로 생성된 잘못된 정보가 가져다 줄 위험을 막기 위한 한 걸음으로 이해할 수 있습니다. 사용자를 전통적인 검색 방법으로 안내함으로써, 구글은 신뢰할 수 있는 출처로부터 정확하고 신뢰할 수 있는 정보를 제공하고자 노력하고 있습니다.
자주 묻는 질문
The source of the article is from the blog exofeed.nl