A legfrissebb eset hangsúlyozza az AI által működtetett chatbotok lehetséges kockázatait, melyben az Air Canada kapcsolódó visszatérítési szabályok betartására kötelezett azáltal, hogy egy téves információt közölt a chatbotján keresztül. Az ügy egy utas, Jake Moffatt körül forog, aki nagymamája halála után segítséget kért az Air Canada chatbotjától egy 2022 novemberi repülőjegy foglalásához. A chatbot azt ajánlotta Moffattnak, hogy „retroaktívan igényelheti a gyászjáradéki kedvezményeket”. Sajnos később kiderült, hogy az Air Canada valójában nem engedélyezte a retroaktív kérelmeket.
Moffatt azt állította, hogy a chatbot téves információkat nyújtott, és a megfelelő 90 napos időszakon belül kezdeményezte a visszatérítési kérelmet. Azonban az Air Canada nem volt hajlandó eleget tenni a kérelmének, és helyette 200 dolláros kupont ajánlott kompenzációként. Moffatt erre válaszul panaszt tett a Civil Resolution Tribunalnál, kijelentve visszatérítési jogát.
Az Air Canada védelme azon az érvelésen alapult, hogy a chatbotot külön jogi entitásként kell értelmezni, és így nem felelős a nyújtott téves információkért. Azonban a tribunal határozata a ‘Moffatt’ javára dőlt el, és az légitársaságra kötelezte részleges (kb. 482 USD értékű) visszatérítés biztosítására.
A határozat kifejtette, hogy az Air Canada a chatbot jogi státuszával kapcsolatos állításai megalapozatlanok voltak. Hangsúlyozta, hogy annak ellenére, hogy a chatbot interaktív természetű volt, az továbbra is az Air Canada weboldalának szerves része maradt. Ennek megfelelően az légitársaság felelt minden, az oldalán megjelent információért, függetlenül azok forrásától.
Bár ez az eset az első ismert eset, amikor egy kanadai cég vonakodott felelősséget vállalni a chatbot által generált információkért, hasonló eseteket tapasztaltak AI által működtetett chatbotokkal kapcsolatban. Például a General Motors tavaly problémákkal szembesült Chevrolet ChatGPT által működtetett chatbotjával, amikor felhasználók arra használták, hogy hamis állításokat tegyenek vagy akár egy autót 1 dollárért eladják. Emellett más vállalatok, mint például a Dynacraft Parcel Delivery és az Amazon is problémákkal találkoztak chatbotjaik használatakor.
Ezek a kihívások ellenére az AI chatbot piac továbbra is virágzik, és jelentős növekedési előrejelzéseket kap a Healthcare, Retail, BFSI, Média & Szórakoztatás, Utazás & Turizmus és E-kereskedelem szektorokban. Ezek az esetek emlékeztetők a fontosságra, hogy az AI technológiát emberi intelligenciával és elemzéssel kombináljuk annak érdekében, hogy elkerüljük a téves vagy ártalmas kimeneteleket.
The source of the article is from the blog maestropasta.cz