미국이 AI 도구 시대의 첫 대통령 선거를 준비하는 가운데 Google, OpenAI, Microsoft와 같은 주요 챗봇 제작업체들이 선거 기간 동안의 잘못된 정보 위험을 대처하기 위한 조치를 취하고 있습니다. 이들 회사들은 AI 생성 콘텐츠가 미디어 미신 및 챗봇을 통한 조작된 사실의 확산과 같은 잠재적인 위험을 인식하고 있습니다.
잘못된 정보 대처를 위한 한 가지 전략은 선거 관련 정보를 아예 제공하지 않는 것입니다. Google은 지난 12월에 Gemina 챗봇이 선거 관련 질문에 답변을 거절하고 사용자를 Google 검색으로 안내하겠다고 발표했습니다. 마찬가지로 OpenAI의 ChatGPT는 이제 CanIVote.org로 사용자를 안내하여 지역 투표 정보를 신뢰할 수 있는 곳으로 연결하게 되었습니다. 두 회사는 후보자나 지방 정부의 흉내내기와 캠페이닝이나 유관 선택권 변조를 방지하기 위한 정책을 시행했습니다.
다른 한편으로 Microsoft는 선거에 관한 가짜 정보를 방지하기 위해 챗봇의 응답 정확도를 향상시키고 있습니다. 빙(지금은 Copilot)이 선거에 대한 가짜 정보를 자주 제공한다는 보고를 받은 후, Microsoft는 챗봇 신뢰도를 높이기 위해 노력하고 있습니다. 그러나 Microsoft의 정책에 대한 구체적인 세부사항은 공개되지 않았습니다.
이러한 조치는 회사들의 선거에 대한 이전 방안, Google의 사실 확인 계획이나 Facebook의 유권자 등록 링크와 같이 다른 방안들과 차이를 보이지만, 다가오는 미국 대통령 선거는 AI 챗봇이 정확한 정보를 제공하는 능력을 테스트할 수 있는 기회를 제공합니다.
자주 묻는 질문 FAQ
Q: AI 챗봇은 선거 관련 정확한 정보를 제공할 수 있는가?
A: OpenAI의 ChatGPT와 Perplexity AI와 같은 AI 챗봇은 신뢰할 만하고 유명한 출처를 우선으로 하여 선거 관련 질문에 정확한 답변을 제공할 수 있는 능력을 보여주었습니다.
Q: 기업들은 선거에서 AI의 오용을 어떻게 완화하고 있나요?
A: Microsoft, Google, OpenAI와 같은 기업들은 선거 관련 질문에 대답을 거부하고 신뢰할 수 있는 출처로 사용자를 안내하며, 응답의 정확도를 향상시키고 있습니다. 또한 C2PA와 같은 이니셔티브와 협력하여 AI 생성 콘텐츠를 표시하기로 함으로써 다양한 조치들을 취하고 있습니다.
Q: AI 선거 협약이란 무엇인가요?
A: AI 선거 협약은 주요 AI 기업들이 선거 중 AI의 속임수 사용에 대해 대응하기 위한 합의입니다. 이것은 예방 방안, 콘텐츠 원산지, AI 탐지 능력 및 잘못된 AI 생성 콘텐츠의 영향을 함께 평가하고 배우는 것을 목표로 합니다.
소스: [소스 추가]
메리 존스
The source of the article is from the blog myshopsguide.com