In een verrassende wending heeft het Tribunal voor Civiele Geschillen van British Columbia (CRT) Air Canada opgedragen om een fictief restitutiebeleid, gepresenteerd door zijn eigen AI-chatbot, te honoreren. Deze beslissing, door Christopher Rivers van de CRT bestempeld als een buitengewone openbaring, legt de verantwoordelijkheid volledig bij de luchtvaartmaatschappij voor de acties van zijn geautomatiseerde systeem.
Het incident begon in november 2022 toen Jake Moffatt, een bedroefde Canadese inwoner, informatie zocht over rouwtarieven via de online chatbot van Air Canada. In plaats van hem naar de juiste gegevens te leiden, suggereerde de chatbot dat hij een regulier ticket boekte en vervolgens binnen 90 dagen een gedeeltelijke restitutie aanvroeg onder het zogenaamde rouwbeleid van de luchtvaartmaatschappij.
Na de instructies van de chatbot te hebben gevolgd, kocht Moffatt een ticket tegen volledige prijs van Vancouver naar Toronto. Toen hij echter probeerde de restitutie aan te vragen, informeerden medewerkers van Air Canada hem dat retroactieve aanvragen niet waren toegestaan.
Moffatt overlegde screenshots van zijn gesprek met de chatbot aan de CRT, waaruit de misleidende begeleiding bleek: “Air Canada biedt gereduceerde rouwtarieven als u moet reizen vanwege een dreigend overlijden of een overlijden in uw directe familie.”
Erkennend dat er onjuistheden waren in de reactie van de chatbot, betoogde Air Canada dat Moffatt niet de juiste procedure had gevolgd voor het aanvragen van rouwtarieven en daarom niet in aanmerking kwam voor retroactieve claims. De luchtvaartmaatschappij benadrukte verder dat zij niet aansprakelijk kan worden gesteld voor de informatie verstrekt door de chatbot of andere vertegenwoordigers.
Echter, de beslissing van Rivers was in het voordeel van Moffatt, aangezien Air Canada geen bevredigende verklaring kon geven voor haar standpunt. Rivers benadrukte dat Air Canada verantwoordelijk is voor alle informatie die wordt gepresenteerd op haar website, ongeacht of dit afkomstig is van een statische pagina of een interactieve AI-chatbot.
Deze baanbrekende uitspraak benadrukt de groeiende verantwoordingsplicht van bedrijven voor de acties van hun AI-systemen en roept zorgen op over de betrouwbaarheid van chatbots en de mogelijke gevolgen van hun storingen.
Als gevolg van de uitspraak heeft Air Canada beloofd de training en nauwkeurigheid van haar chatbot te verbeteren, terwijl zij ook haar rouwtarievenbeleid zowel op haar website als binnen de chatbot-interface verduidelijkt. Het CRT heeft een richtlijn uitgevaardigd aan de luchtvaartmaatschappij om Moffatt binnen 14 dagen terug te betalen, wat een aanzienlijke overwinning betekent voor de consumentenrechten in het licht van door AI aangedreven diensten.
The source of the article is from the blog trebujena.net