Die Civil Resolution Tribunal von British Columbia hat Air Canada, die kanadische Fluggesellschaft, angewiesen, eine Rückerstattungsrichtlinie zu ehren, die fälschlicherweise von ihrem eigenen Chatbot empfohlen wurde. Diese Entscheidung gilt als bedeutend für die Festlegung der Verantwortlichkeit von Unternehmen für die Handlungen ihrer KI-Systeme. Christopher Rivers vom CRT bezeichnete sie als „bemerkenswert“.
Der Vorfall ereignete sich, als ein kanadischer Staatsbürger, Jake Moffatt, Trauertarife für einen Flug suchte. Der Air Canada Chatbot gab irreführende Informationen, indem er Moffatt empfahl, ein reguläres Ticket zu kaufen und später eine teilweise Rückerstattung gemäß der Trauertarifrichtlinie der Fluggesellschaft anzufordern. Moffatt stellte jedoch später fest, dass nachträgliche Anträge auf Rückerstattung nicht zulässig waren.
Screenshots der Chatbot-Interaktion wurden dem CRT als Beweismittel vorgelegt. Das Tribunal stellte fest, dass Air Canada versäumt hatte zu erklären, warum es nicht haftbar gemacht werden sollte, da der Chatbot Teil der Website der Fluggesellschaft ist und das Unternehmen somit für die bereitgestellten Informationen verantwortlich ist.
Dieses Urteil dient als Erinnerung an Unternehmen, dass sie nicht die Verantwortung für Fehlinformationen übernehmen können, die ihre KI-Systeme verbreiten. Air Canada hat zugesagt, das Training und die Genauigkeit ihres Chatbots zu verbessern und die Klarheit ihrer Richtlinie für Trauertarife sowohl auf ihrer Website als auch innerhalb des Chatbots selbst zu erhöhen. Die Fluggesellschaft wurde angewiesen, Moffatt innerhalb von 14 Tagen zu erstatten.
Dieser Fall könnte einen Präzedenzfall für ähnliche Vorfälle schaffen und Unternehmen dazu ermutigen, bei der Entwicklung und Implementierung von KI-Technologien, insbesondere Chatbots, vorsichtiger vorzugehen. Die Sicherstellung der Zugänglichkeit und Zuverlässigkeit von Chatbots ist entscheidend für die Zufriedenheit der Kunden und um rechtliche Probleme zu vermeiden.
The source of the article is from the blog toumai.es