에어 캐나다의 AI 챗봇이 승객을 오도한 후 법적 결과에 직면
에어 캐나다가 AI 기술을 적용한 고객 서비스 플랫폼 구현에 도전하면서, 항공사는 슬픈 승객에 대한 소규모 소송에서 패하면서 난관에 부딪혔습니다. 승객은 항공사의 AI 챗봇이 장례 비용 할인 자격에 대한 오해를 일으킨 것으로 주장했습니다. 법원은 승객에 유리하게 판결을 내렸고, 손해배상금과 소송비로 812.02달러를 지불하기로 판결했습니다.
이에 따르면, 해당 승객은 할머니가 돌아가신 후 장례 비용 할인에 대해 에어 캐나다의 챗봇을 사용하여 문의했습니다. 그러나 챗봇은 잘못된 정보를 제공하여 장례 비용 할인에 대해 후속 적용이 가능하다는 것을 시사했습니다. 승객은 챗봇의 응답 화면을 스샷을 찍어 법정 절차 중에 증거로 제출했습니다. 그러나 에어 캐나다는 챗봇이 잘못된 정보를 제공했을지라도 승객이 해당 정보를 확인할 수 있는 기회가 있는데도 웹사이트에서 확인하지 않았다는 주장을 펼쳤습니다.
에어 캐나다는 챗봇이 제공한 정보가 웹사이트에 비해 신뢰할 수 없다는 이유를 설명하지 않았으며, 이로 인해 법원은 에어 캐나다가 “과실적인 오인”에 가담했다고 판단했습니다. 항공사는 챗봇의 정확성을 보장하기 위한 합리적인 주의를 기울이지 않았으며, 모순된 정보가 있는 웹페이지가 챗봇보다 신뢰할 수 있는 이유를 설명하지 않았다는 것으로 나타났습니다.
이 사례는 항공사들이 AI 기술을 통한 시스템의 성능과 정확성에 대한 책임에 대해 의문을 제기합니다. AI 기술은 고객 경험을 향상시키는 잠재력을 가지고 있지만, 오류나 잘못된 해석에 면역이 있는 것은 아닙니다. 경우에 따라 AI 챗봇은 “AI 환각”이라고 알려진 현상처럼 희귀한 혹은 부적확한 응답을 생성할 수도 있습니다.
에어 캐나다의 법적 패배는 고객 서비스에 AI 시스템을 구현할 때 투명성과 책임성을 유지하는 중요성을 강조합니다. 항공사들은 AI 기술이 정확하고 신뢰할 수 있으며 사업 정책과 일치하는지를 보장해야 합니다. 이를 잘못 처리할 경우 법적 결과뿐만 아니라 회사의 평판을 손상시키는 위험도 감수해야 합니다.
이 사례가 항공업계에서 AI 기술의 향후 채택에 어떤 영향을 미치게 될지는 앞으로 확인해야 합니다. 기업들은 고객 경험을 개선하려는 노력 속에서 자동화와 인간의 개입 사이에서 균형을 유지해야 합니다. 기술의 우수성을 발휘할 수 있는 영역에서 기술을 사용하면서 필요한 곳에서는 인간적인 접촉을 제공해야 합니다.
The source of the article is from the blog kewauneecomet.com