Air Canada, et af de største flyselskaber i Nordamerika, er blevet pålagt af en tribunal at betale erstatning til en passager, Jake Moffatt, på grund af misvisende information fra sin kundeservice chatbot. I en betydningsfuld dom afviste tribunalen Air Canadas forsvar, som hævdede, at chatboten var en “særskilt juridisk enhed.” I stedet understregede tribunalen flyselskabets ansvar for den information, der vises på dets hjemmeside, og holdt det ansvarligt for de forkerte oplysninger, som chatboten havde givet.
Moffatt henvendte sig til Air Canadas chatbot efter den ulykkelige død af sin bedstemor. Han søgte om sorgtakster for en returbillet fra Vancouver til Toronto og modtog unøjagtig vejledning om, hvordan man ansøger om disse priser efter at have gennemført sine rejsearrangementer. Idet han stolede på chatbotens råd, fortsatte Moffatt med at booke sine flyrejser baseret på denne fejlagtige information.
Tribunalens afgørelse demonstrerer vigtigheden af nøjagtighed og ansvarlighed, når det kommer til kundeservice chatbots. Mens chatbots i stigende grad bruges til at forbedre kundeoplevelser, fungerer denne sag som en påmindelse om, at virksomheder ikke kan fritage sig fra ansvar ved at hævde, at deres chatbots er “særskilte juridiske enheder.” Endeligt understreger tribunalen, at virksomheder er ansvarlige for den information, der leveres af deres automatiserede systemer.
Ved at holde Air Canada ansvarlig for uoverensstemmelserne i chatbotens svar har tribunalen ikke kun prioriteret forbrugernes rettigheder, men også sat en præcedens for fremtiden. I denne tidsalder med avanceret teknologi og automatisering, må virksomheder sikre, at deres kunstige intelligenssystemer giver nøjagtig information og er i overensstemmelse med virksomhedens egne politikker og retningslinjer.
Mens virksomheder fortsætter med at investere i kundeserviceautomatisering, fungerer denne afgørelse som et wake-up call for at prioritere udvikling og vedligeholdelse af pålidelige chatbot-løsninger. Nøjagtighed og gennemsigtighed bør være kernen i disse systemer, så kunderne kan have tillid til den information, der gives. Som følge heraf fremhæver erfaringen fra Air Canada behovet for virksomheder rutinemæssigt at overvåge og opdatere deres chatbot-funktionaliteter for at sikre, at de konsekvent leverer nøjagtige og hjælpsomme svar til kunderne.
The source of the article is from the blog foodnext.nl