Največji kanadski letalski prevoznik, Air Canada, se je nedavno znašel v težavah, ko je njegov chatbot zagotovil napačne informacije stranki, kar je privedlo do nakupa polnoplačne vozovnice namesto znižane žalne tarife. Ta incident je sprožil pomembno razpravo o obsegu nadzora, ki bi ga morale podjetja izvajati nad avtomatiziranimi pogovornimi orodji.
Jake Moffatt, prebivalec Britanske Kolumbije, se je leta 2022 obrnil na Air Canada, da bi se pozanimal o potrebnih dokumentih in morebitnih retroaktivnih vračilih pri žalni tarifi. Chatbot ga je po zapletu v svetovanju informiral, naj izpolni spletni obrazec v 90 dneh od izdaje vozovnice za vračilo, kar je bilo razvidno iz posnetka pogovora. Opozorjen na to, je Moffatt nadaljeval z rezervacijo potovanja na pogreb družinskega člana.
Vendar, ko je Moffatt kasneje zaprosil za vračilo, je Air Canada zavrnil njegovo prošnjo in trdil, da tarife žalovanja ne veljajo za že izvedena potovanja. Moffatt je oborožen z dokazi o zavajajočih nasvetih chatbota, izzval letalsko družbo. Air Canada je na koncu priznala svojo napako, priznavajoč, da je chatbot resnično zagotovil napačne informacije. Podjetje je zagotovilo Moffattu, da bodo popravili usmeritve chatbota.
Air Canada je v svoji obrambi zavzela nepričakovano stališče. Trdili so, da je chatbot “ločena pravna oseba”, odgovorna za svoja dejanja. Vendar pa je Christopher Rivers, član tribunalnega organa, ki je vodil primer, to argumentacijo zavrnil kot neveljavno. Rivers je poudaril, da ne glede na to, ali informacije prihajajo od chatbota ali statične spletne strani, Air Canada nosi končno odgovornost za točnost vseh informacij, ki jih zagotavlja na svoji spletni strani.
Rivers se je vprašal, zakaj naj bi bil nasvet chatbota manj zanesljiv kot stran, ki je posebej namenjena žalnim potovanjem. Poudaril je, da od strank ni mogoče pričakovati, da bi razkrile razlike med različnimi sekcijami spletnega mesta letalske družbe.
Posledično je bilo Air Canadi naloženo, da odškoduje Moffatta z zneskom 650,88 kanadskih dolarjev, kar zajema razliko v ceni vozovnice in dodatne stroške. Ta primer je močan opomin podjetjem glede njihove obveznosti, da zagotovijo točnost avtomatiziranih pogovornih orodij in prevzamejo polno odgovornost za morebitne zavajajoče informacije, ki jih posredujejo strankam.
The source of the article is from the blog kewauneecomet.com