Air Canada, najväčšia letecká spoločnosť v Kanade, bola inštruovaná poskytnúť kompenzáciu zákazníkovi, ktorý dostal nepresné informácie od chatbota leteckej spoločnosti. V nedávnom prípade sa Jake Moffatt obrátil na Air Canada v roku 2022, aby sa informoval o dokumentoch potrebných na získanie zľavy za pohrebný let a možnosť náhrad za lety s retroaktivným účinkom.
Nanešťastie, chatbot mu poskytol nesprávne informácie, tvrdiac, že môže požiadať o vrátenie peňazí do 90 dní od vydania letenky vyplnením online formulára. Na základe tejto nesprávnej informácie pokračoval Moffatt v rezervácii leteniek na pohrebné účely svojej rodiny. Avšak neskôr, keď požiadal o vrátenie peňazí, Air Canada jeho žiadosť zamietla s tvrdením, že zľavy za pohrebné lety sa nevzťahujú na už dokončené lety, a odkázala ho na sekciu pohrebných letov na ich webovej stránke.
Uznávajúc závažnosť situácie, Air Canada uznala zavádzajúce informácie poskytnuté chatbotom a zaviazala sa aktualizovať svoju funkčnosť. Moffatt však rozhodol, že podnikne právne kroky na dosiahnutie rozdielu vo fare, ktorýmu sa domnieval, že má nárok. Air Canada sa bránila tým, že chatbot by sa mal považovať za samostatnú právnickú osobu zodpovednú za svoje činy.
Christopher Rivers, člen tribunálu, ktorý sa zaoberal prípadom, sa domnieval, že obrana Air Canada je pomerne ohromujúca. Zdôraznil, že ako majiteľ platformy nesie Air Canada konečnú zodpovednosť za všetky informácie na svojej webovej stránke bez ohľadu na ich pôvod. Rivers sa pýtal, prečo by sa webová stránka s názvom „Pohrebné cestovanie“ mala považovať za dôveryhodnejšiu ako chatbot, poukázal na to, že zákazníci nemajú dôvod prenikavo posudzovať presnosť rôznych častí webovej stránky leteckej spoločnosti.
Pôvodne zavedený ako experiment s umelej inteligencie na zmiernenie tlaku na ich call centrum počas neočakávaných leteckých porúch, implementácia chatbota Air Canada teraz čelí kritike vo vzťahu k jeho zodpovednosti. Rivers uzavrel prípad tým, že rozhodol v prospech Moffatta a nariadil Air Canada, aby mu zaplatila 650,88 kanadských dolárov, čo zahŕňa rozdiel v fare spolu s ďalšími čiastkami.
Tento prípad slúži ako pripomenutie spoločnostiam využívajúcim chatboty s pohonmi AI, aby dávali prednosť presnosti a zaistili, že všetky zdroje informácií na ich platformách sú spoľahlivé. Chyby, ktoré robia automatizované systémy, môžu mať skutočné dôsledky pre zákazníkov, zdôrazňujúc potrebu neustáleho monitorovania a zlepšovania pri vývoji a nasadení takýchto technológií.
The source of the article is from the blog elblog.pl