인공 지능의 한계를 집중적으로 보여주는 최근의 사례가 Google의 프로모션 영상에서 드러났습니다. ‘젬니(Gemini)’라고 불리는 AI가 사진 작가들을 위해 잠복적인 질문에 잠재적으로 파괴적인 조언을 제공하여 오작동했습니다. 젬니는 신속한 문제 해결 옵션을 제공하지만, 하나의 제안이 사진기의 후면 문을 열고 필름을 제거하도록 잘못된 조언을 하여 빛 노출로 인해 망가진 사진을 낳을 수 있는 잘 알려진 잘못된 행위를 조언했습니다.
이 사건은 Google이 AI 기술과 관련된 이전 허물을 반영하고 있습니다. 예를 들어, Google Chatbot Bard는 이전에 제임스 웹 우주 망원경이 외계 행성 이미지를 처음으로 촬영했다고 잘못 주장한 바 있습니다. 이 문장은 나중에 수정되었습니다. 마찬가지로, 올해 초에는 젬니가 백인 사진을 찍지 않도록 거부하고 아시아 나치 및 흑인 창시자 근대미술작품 등 역사적으로 부적절한 이미지를 창출하는 데 비판을 받았습니다. 이러한 실수에 대해 Google은 사과하고 AI의 성능에서 목표를 달성하지 못했다고 인정했습니다.
AI 챗봇에 대한 고난은 Google에만 해당되는 것이 아닙니다. Microsoft의 Bing AI 챗봇도 이따금 논란을 일으키며 기이한 고찰과 부적절한 사랑 고백을 전달합니다. 이러한 사례들은 기업들이 AI의 발언으로 인한 잠재적인 법적 책임에 대한 우려를 강조합니다. 한 가지 주목할 만한 사례에서는 에어 캐나다가 장례 할인에 대한 잘못된 정보를 전달한 AI 챗봇으로 책임을 지게 되었습니다.
구글이 최근 비디오에서 제공한 젬니의 오해에 대해 아직 논평하고 있지 않습니다.
이 기사는 Google의 AI 젬니를 통해 AI 기반 보조자에 대한 도전을 강조하고 있습니다. 그러나 이러한 사건이 발생하는 보다 광범위한 맥락을 이해하는 것이 중요합니다.
주요 질문과 답변:
– AI 오류 정보란 무엇이며 그 원인은 무엇일까요? AI 오류 정보란 기계 학습 모델이 부정확하거나 오해를 불러일으키는 또는 부적절한 응답 또는 콘텐츠를 생성하는 경우입니다. 이는 훈련 데이터의 편향, 맥락이나 뉘앙스를 이해하지 못하는 점, 또는 학습 알고리즘의 오류로 인해 발생할 수 있습니다.
– 기술 기업들은 AI 모델이 생성하는 잘못된 정보에 대해 어떻게 대응하고 있을까요? 기업들은 종종 기계 학습 알고리즘을 개선하고, 다양하고 고품질의 훈련 데이터를 통합하며, 인간의 확인과 같은 여러 층의 감독 체계를 도입하여 오류 정보를 최소화합니다.
주요 도전과 논란:
– 신뢰성: AI가 항상 정확한 정보를 제공하도록 보장하는 것은 여전히 중요한 도전입니다.
– 편향과 민감성: 문화적으로 민감하고 내재된 편향이 없는 AI를 훈련하는 데는 방대한 대표적인 데이터 세트와 복잡한 모델링이 필요합니다.
– 윤리적 영향: AI가 콘텐츠 작성에 더 많이 개입함에 따라 오류 정보에 대한 책임에 대한 윤리적 문제가 발생합니다.
장단점:
– 장점:
– AI는 고객 서비스부터 콘텐츠 생성에 이르기까지 많은 분야에서 빠르고 효율적인 지원을 제공할 수 있습니다.
– 제대로 작동할 때 이러한 시스템은 반복적인 작업을 자동화하고 방대한 양의 데이터를 분석하여 인간의 생산성과 의사 결정을 향상시키는 데 도움이 될 수 있습니다.
– 단점:
– 오류 정보는 구글 젬니 사례에서 언급 된 사진 파괴 등과 같은 해로운 결과로 이어질 수 있습니다.
– AI 지원에 대한 과도한 의존은 사용자들 사이의 경계와 비판적 사고 능력의 저하로 이어질 수 있습니다.
AI를 개발하고 개선하는 데 주력하는 기업에 대해 더 알아보려면 공식 웹 사이트를 방문해 볼 수 있습니다. 신뢰할 수 있는 몇 가지 링크가 있습니다.
– Google의 주요 도메인 및 최신 AI 뉴스 및 개발 사항에 대해 알아보려면 Google를 방문하십시오.
– Microsoft의 Bing AI 챗봇을 비롯한 Microsoft의 AI 개발에 대해 자세히 알아보려면 Microsoft를 방문하십시오.
이러한 기업은 신뢰할 수 있고 편협하지 않고 윤리적으로 책임 있는 AI 도구를 위해 노력하며 AI 기술의 단점을 완화하고 신뢰할 수 있고 편견이 없는 방법으로 발전하는 데 노력하는 데 중점을 두고 있습니다.
The source of the article is from the blog publicsectortravel.org.uk