Dans un revirement surprenant, Air Canada est contrainte de rembourser partiellement un client en raison d’une promesse faite par son chatbot. Jake Moffatt, qui se rendait à Toronto pour les funérailles de sa grand-mère, a demandé des tarifs de deuil en utilisant le chatbot d’IA de la compagnie aérienne. À sa surprise, le chatbot a déclaré que la compagnie offrait des tarifs réduits et lui a conseillé de réserver son billet puis de demander un remboursement dans les 90 jours. Malheureusement, la politique réelle d’Air Canada n’autorise pas les remboursements après le vol et exige une approbation pour toute réduction.
Lors du tribunal civil, Air Canada a soutenu que le chatbot devait être traité comme une « entité légale distincte », exempteant la compagnie aérienne de toute responsabilité pour les informations fournies. La compagnie a également affirmé qu’elle n’était pas responsable des déclarations faites par le chatbot ou tout autre représentant. Cependant, le membre du tribunal, Christopher Rivers, a donné raison à M. Moffatt, déclarant qu’Air Canada devait respecter la remise promise par le chatbot. Rivers a qualifié le comportement d’Air Canada de « représentation erronée négligente ».
La tentative d’Air Canada de se distancer des actions de son chatbot a été rejetée par Rivers. Il a déclaré que la compagnie aérienne devait assumer la responsabilité de toutes les informations présentes sur son site Web, quel que soit leur source. Le tribunal a ordonné à Air Canada de verser le remboursement promis de 483 $, ainsi que des frais nominaux. Rivers a critiqué Air Canada pour ne pas avoir assuré l’exactitude de son chatbot et pour s’attendre à ce que les clients vérifient les informations fournies dans différentes sections de son site Web.
Malheureusement pour Air Canada, cet incident a mis en lumière les lacunes potentielles de se fier uniquement aux chatbots d’IA pour le service client. Par conséquent, la compagnie aérienne a retiré le chatbot de son site Web, mettant fin à son utilisation expérimentale de l’IA. Ce cas sert d’avertissement aux entreprises qui emploient la technologie de l’IA, soulignant le besoin pour les entreprises d’assumer la responsabilité des actions et des déclarations de leurs systèmes d’IA.
The source of the article is from the blog toumai.es