구글의 생성적 AI, 챗봇의 정확도를 높이다
2023년 11월, AI 공간은 구글 전 직원으로 이뤄진 스타트업 Vectara가 발표한 중요한 발전을 목격했습니다. 그들의 데이터에 따르면 OpenAI의 ChatGPT의 환각 발생률은 3%에 불과합니다. 이 백분율은 미미해 보일 수 있지만 오류가 있는 챗봇 응답을 만날 경우 의사, 관리자, 또는 분석가와 같은 전문가들을 오도할 수 있어 심각한 결과를 초래할 수 있습니다.
AI 생성 정보의 문제는 ChatGPT뿐만 아니라 대형 언어 모델을 기반으로 한 다른 챗봇들도 때로는 부정확한 결과물을 생산합니다. 그러나 구글은 최신 온라인 데이터를 소스로 취합하여 응답에 통합할 수 있는 혁신적인 기능을 갖춘 Gemini라는 AI를 선보이면서 독보적인 위치를 선정했습니다.
ChatGPT의 무료 버전과 달리, Gemini는 최신 웹 정보가 부족할 수 있는 ChatGPT와는 달리, Gemini는 최신 온라인 데이터를 소스로 사용하여 응답에 반영할 수 있는 능력을 갖췄습니다. 이 기능은 두 가지 이유로 중요합니다: 사용자는 최신 답변을 수렴하고 챗봇이 제공하는 정보의 신뢰성을 판단할 수 있습니다.
Gemini를 독특하게 만든 것은 특별한 기능입니다. Gemini가 생성한 모든 응답에는 구글 브랜드 ‘G’ 아이콘이 동반됩니다. 사용자가 이 아이콘을 클릭하면 Gemini가 웹 검색을 수행하여 자체적으로 생성한 텍스트의 유효성을 분석합니다.
검색을 마치면, Gemini는 응답의 일부를 초록색 또는 주황색으로 강조합니다. 초록색 구절은 사용자가 제공된 신뢰할 만한 소스 링크를 따라 확인할 수 있는 온라인 일치에 의해 ‘확인된’ 정보를 나타냅니다. 그러나 구글은 Gemini가 원래 답변에 사용한 정확한 출처가 반드시 표시된 링크라는 것은 아니라는 점을 명확히합니다.
반면, 주황색으로 표시된 구절은 잠재적인 불일치를 표시하고 추가 확인이 필요함을 경고합니다. 이는 관련 정보를 찾을 수 없는 경우에도 적용되며 가능한 경우 링크가 제공됩니다.
마지막으로, 초록색 또는 주황색으로 강조되지 않은 텍스트 부분이 있는 경우에는 챗봇의 명언을 평가하는 데 충분한 정보가 부족하거나 명제적 정보를 전달하는 것이 아닌 것을 나타낼 수 있습니다. 이런 경우에는 사용자 검증을 위한 주의가 권장됩니다.
마지막으로, Microsoft의 Copilot이나 Perplexity와 같은 다른 AI 도구들도 텍스트 검증을 위해 유용한 링크를 제공하지만, Gemini가 그 인터페이스 내에서 사실 확인에 직접 접근하는 것은 신뢰할 수 있고 정확한 AI 챗봇과의 상호작용을 전달하기 위한 칭찬할 만한 단계입니다.
사실:
– Gemini는 증강된 검증 기능을 포함한 구글에서 개발한 AI입니다.
– ChatGPT를 구동하는 것과 같은 대형 언어 모델은 때로 ‘환각’이라고 알려진 부정확하거나 오해를 일으키는 정보를 생성할 수 있습니다.
– Gemini는 생성하는 정보를 직접 검증하여 텍스트를 다른 색으로 강조하여 정보의 신뢰성을 표시합니다.
주요 질문과 답:
– Q: Gemini는 제공하는 정보를 어떻게 검증합니까?
A: Gemini는 응답을 분석하고 정보의 검증 가능성을 나타내기 위해 색상 부호 시스템을 사용합니다. 초록색은 검증된 정보를 나타내며, 주황색은 잠재적인 부정확성을 제시하며, 색상이 없는 텍스트는 평가하기에 충분한 데이터가 부족하거나 주관적인 것일 수 있습니다.
– Q: 왜 AI 응답의 검증 가능성이 중요한가요?
A: AI로부터의 정보가 정확하고 검증 가능하다는 것을 보장하는 것은 특히 정보의 오인으로 심각한 결과를 초래할 수 있는 전문적인 환경에서 중요합니다.
도전과 논란:
– AI로 생성된 콘텐츠가 정확하고 편향 없이 유지되는 것은 개발자들에게 큰 도전입니다.
– 현재 웹 데이터에 의존하는 문제가 발생할 수 있습니다. 이는 모든 정확한 정보가 온라인에 사용 가능하고 색인화되었다고 가정하기 때문입니다.
– 사용자 개인 정보 보호 문제가 AI 시스템이 백그라운드에서 웹 검색을 수행할 수 있을 때 발생할 수 있습니다.
장점:
– Gemini는 AI로 생성된 콘텐츠의 정확성에 대한 사용자의 신뢰도를 높입니다.
– 정보의 검증 가능성을 즉시 확인할 수 있는 능력은 챗봇에 대한 사용자 신뢰도와 신뢰성을 강화시킵니다.
– 최신이며 검증 과정을 거친 정보는 의사 결정에 안전하게 활용할 수 있습니다.
단점:
– 검증 도구에 과도하게 의존하는 경우 사용자가 AI와 상호작용할 때 비판적 사고를 방치할 수 있습니다.
– Gemini가 정확한 정보를 검증되지 않은 것으로 잘못 표시하거나(오답 부정) 혹은 잘못된 정보를 검증된 것으로 표시할 가능성이 있습니다. (거짓 양성)
관련 링크 제안:
– AI와 계산 모델에 대한 더 많은 통찰력을 위해서: Google AI
– AI 챗봇과 언어 모델에 대한 개발 내용: OpenAI
– Microsoft의 AI 도구 정보: Microsoft AI
정확한 URL을 제공하기 위해 노력하지만, 인터넷을 확인할 수 없기 때문에 URL을 확인하시기 바랍니다.