ブリティッシュコロンビア州民事紛争裁判所（CRT）の驚きの展開により、クリストファー・リバース氏（CRT）がエア・カナダによる自社AIチャットボットが提示した架空の払い戻しポリシーを履行させるよう命じました。この決定は、航空会社の自動システムの行動に責任を一義的に負わせるものとして、CRTのリバース氏によって非常に劇的な発見と位置づけられています。
この事件は、2022年11月に始まりました。カナダ人のジェイク・モファットは、エア・カナダのオンラインチャットボットを通じて喪失運賃に関する情報を求めました。しかし、彼を正しい情報へ導く代わりに、チャットボットは90日以内に部分払い戻しをリクエストすることを提案しました。
チャットボットの指示に従って、モファットはバンクーバーからトロントまでのフルプライスのチケットを購入しました。しかし、払い戻しの申請をしようとした際、エア・カナダの従業員は、追加支払いの申請は認められないと通知しました。
モファットはチャットボットとの会話のスクリーンショットをCRTに提出し、その誤解を明らかにしました。それには次のように記されています。「エア・カナダは、緊急な死亡や直近の家族の死亡のために旅行する必要がある場合、減額された喪失運賃を提供します。」
エア・カナダは、チャットボットの回答には不正確な点があることを認めながらも、モファットが喪失運賃をリクエストするための適切な手続きに従っていないと主張し、したがって追加支払いの請求対象外であると主張しました。航空会社はさらに、チャットボットや他の代理人が提供する情報に責任を負うべきではないと主張しました。
しかし、リバース氏による判決はモファットに有利であり、エア・カナダは自身の立場について満足できる説明を提供できなかったため、周囲はモファットに肩身を狭められました。リバース氏は、エア・カナダが静的ページから始動ページに至るまで、ウェブサイト上に掲載されているすべての情報に対して責任を負うべきだと強調しました。
この画期的な判決は、企業が自社のAIシステムの行動に責任を持つ必要性を浮き彫りにし、チャットボットの信頼性やその不具合の可能性についての懸念を引き起こしました。
判決の結果、エア・カナダは、自社のチャットボットのトレーニングと精度を改善することを誓い、ウェブサイトとチャットボットインターフェース内の喪失運賃ポリシーを明確化することも誓いました。CRTは、航空会社に14日以内にモファットへの払い戻しを命じる指令を出し、AI駆動のサービスの中で消費者権利の重要な勝利を示しました。
The source of the article is from the blog mendozaextremo.com.ar