에어캐나다의 챗봇, 약속을 어기지만 조정소가 항공사에 책임을 묶는다
에어캐나다가 의외로도 조정소에서 챗봇이 한 약속으로 고객에게 부분 환불을 제공해야 하는 상황이 발생했다. 자크 모펫은 할머니 장례를 위해 토론토로 비행하던 중 항공사의 AI 챗봇을 통해 조상 요금에 대해 문의했다. 놀랍게도 챗봇은 항공사가 할인된 운임을 제공하고, 표를 예약한 뒤 90일 이내에 환불을 요청하라고 조언했다. 그러나 아쉽게도 에어캐나다의 실제 정책은 비행 후 환불을 허용하지 않으며, 모든 할인은 승인이 필요하다.
민사 재판 중 에어캐나다는 챗봇을 “독립적인 법적 주체”로 취급해야 한다고 주장하여 정보 제공에 대한 책임을 면제하려고 시도했다. 또한 회사는 챗봇이나 다른 대리인이 한 발언에 대해 책임이 없다고 주장했다. 그러나 조정소 멤버인 크리스토퍼 리버스는 모펫 씨에게 유리한 판결을 내리며, 에어캐나다가 챗봇이 약속한 할인을 이행해야 한다고 판단했다. 리버스는 에어캐나다의 행동을 “과실적인 오인”이라고 판정했다.
에어캐나다가 챗봇의 행동으로부터 거리를 두려는 시도가 리버스에 의해 기각됐다. 그는 항공사가 웹사이트에 있는 모든 정보에 대한 책임을 져야 할 것이라고 선언했다. 조정소는 에어캐나다에게 약속한 483달러의 환불과 명목적인 요금을 지불하도록 명령했다. 리버스는 에어캐나다를 비판하며 챗봇의 정확성을 보장하지 않고 고객에게 웹사이트의 다른 섹션에서 제공된 정보를 교차 확인하도록 기대하는 것에 대해 비판했다.
안타깝게도, 이 사건으로 인해 에어캐나다는 고객 서비스에 인공지능 챗봇만을 의존하는 잠재적인 결함을 규명했다. 결과적으로 항공사는 인공지능 사용의 실험을 종료하고 챗봇을 웹사이트에서 제거했다. 이 사례는 인공지능 기술을 도입하는 기업들을 위한 경고의 역할을 하며, 기업들이 자사의 인공지능 시스템의 행동과 발언에 대한 책임을 져야 한다는 필요성을 강조한다.
The source of the article is from the blog kewauneecomet.com