Při pokusu společnosti Air Canada o implementaci zákaznických servisních platforem poháněných umělou inteligencí narazila na komplikace, když letecká společnost prohrála malý soudní případ proti smutečnímu pasažérovi. Pasažér tvrdil, že byl zaváděn informacemi AI chatbotu letecké společnosti týkajícími se jeho oprávnění na smuteční letenky. Soud rozhodl ve prospěch pasažéra, udělil mu 812,02 $ jako náhradu škody a soudní poplatky.
Pasažér použil chatbot společnosti Air Canada k dotazu na smuteční letenky po úmrtí své babičky. Chatbot poskytl zavádějící informace, naznačujíc, že retroaktivní žádosti o smuteční letenky jsou možné. Pasažér, opatřený snímkem obrazovky odpovědi chatbotu, předložil tento důkaz během soudního řízení. Nicméně Air Canada argumentovala, že pasažér měl možnost ověřit informace na jejich webu, protože chatbot poskytl odkaz na jejich stránku s pravidly pro smuteční letenky.
Navzdory jejich argumentu nedokázala Air Canada přesvědčit soud, že by se pasažér neměl spoléhat na informace poskytnuté chatbotem na jejich webu. To vedlo soud k závěru, že Air Canada se dopustila „zanedbatelného zavádějícího jednání.“ Soud zjistil, že Air Canada neprojevila dostatečnou péči o zajištění přesnosti svého chatbotu a nepopřela, proč by byla webová stránka s rozporujícími informacemi důvěryhodnější než chatbot.
Tento případ vyvolává otázky týkající se odpovědnosti leteckých společností za výkon a přesnost svých AI systémů. I když má technologie umělé inteligence potenciál zlepšit zážitek zákazníků, není imunní vůči chybám nebo nedorozuměním. V některých případech mohou AI chatboty dokonce generovat nesmyslné nebo nepřesné odpovědi, jak dokládá jev známý jako „AI halucinace.“
Právní porážka společnosti Air Canada zdůrazňuje důležitost udržování transparentnosti a zodpovědnosti při implementaci systémů AI v zákaznickém servisu. Letecké společnosti musí zajistit, že jejich technologie AI jsou přesné, spolehlivé a v souladu s jejich obchodními politikami. Nedodržení tohoto ohrožuje nejen právní následky, ale také poškozuje reputaci společnosti.
Zůstává nejasné, jakým způsobem tento případ ovlivní budoucí přijetí technologií AI v leteckém průmyslu. Jak firmy usilují o poskytování lepších zážitků zákazníkům, musí najít rovnováhu mezi automatizací a lidskou intervencí, využívat technologii tam, kde může excelovat, zatímco poskytuje lidský dotek tam, kde je to nutné.
The source of the article is from the blog rugbynews.at