W erze sztucznej inteligencji i chatbotów zaczęła się narastać przekonanie, że te technologie mogą bezproblemowo zastąpić interakcje międzyludzkie w różnych dziedzinach. Jednak niedawne incydenty podniosły obawy dotyczące ograniczeń i ryzyka związanego z poleganiem wyłącznie na tych zautomatyzowanych systemach. Przypadek chatbota Air Canada stanowi jaskrawy przykład potencjalnych pułapek związanych z wykorzystaniem sztucznej inteligencji w obsłudze klienta.
Jake Moffatt, po stracie swojej babci, zwrócił się do chatbota Air Canada o informacje dotyczące stawek w związku z żałobą. Chatbot zalecił mu zakup biletu po pełnej cenie, a następnie ubieganie się o częściowy zwrot w ciągu 90 dni. Moffatt postąpił zgodnie z tą radą, nawet zapisując zrzut ekranu rozmowy. Jednak gdy zwrócił się do Air Canada o zwrot pieniędzy, został poinformowany, że chatbot udzielił błędnych informacji.
Ten incydent uwydatnia istotny problem związany z generatywną sztuczną inteligencją, która napędza chatboty obsługi klienta: potencjał nieprawidłowych informacji, czyli tzw. „omamów”. SI nie potrafi odróżnić między dokładnymi a fałszywymi informacjami; może jedynie miksować istniejący tekst w celu tworzenia wiarygodnych odpowiedzi. W niektórych przypadkach generowane przez SI treści mogą odnosić się do nieistniejących informacji, prowadząc do zamieszania i frustracji.
Reakcja Air Canada była równie zaskakująca. Zamiast przyjąć odpowiedzialność, linie lotnicze obarczyły Moffatta winą za niezweryfikowanie porad chatbota z oficjalną polityką firmy. Air Canada sugerowała, że klienci powinni zdawać sobie sprawę z niezawodności chatbota, którego dalej używają na swojej stronie internetowej.
Moffatt odmówił przyjęcia odmowy Air Canada i wniósł pozew, ostatecznie wygrywając sprawę. Obrona linii lotniczych, twierdząca, że chatbot jest „oddzielną jednostką prawną”, była nieuzasadnionym próbą oczyszczenia się z odpowiedzialności. Jest nierozsądne traktowanie bota, pozbawionego zdolności podejmowania decyzji, jako niezależnej jednostki odpowiedzialnej za własne czyny.
Ten incydent stanowi sygnał alarmowy, ujawniając potencjalne zagrożenia wynikające z ślepego zaufania systemom napędzanym SI. Chociaż technologia AI się rozwinęła, nadal nie jest w stanie zastąpić subtelnej wrażliwości, empatii i osądu, jakie zapewnia interakcja międzyludzka.
Zamiast polegać wyłącznie na bezmyślnych robotach, istotne jest uznanie ograniczeń SI i zrozumienie, że nie może zastąpić istot ludzkich. Choć technologia AI może uzupełniać i optymalizować pewne zadania, nie jest w stanie zastąpić ludzkiego kontaktu niezbędnego do skomplikowanych interakcji i podejmowania istotnych decyzji.
Dla organizacji i jednostek istotne jest podejście do AI z ostrożnością, rozpoznając jej potencjalne pułapki i rozważając nadzór oraz interwencję ludzką. Zamiast traktować AI jako uniwersalne remedium na wszystkie problemy, należy skupić się na wspólnych wysiłkach wykorzystujących mocne strony zarówno SI, jak i ludzkiej inteligencji w celu stworzenia bardziej zrównoważonej i skutecznej przyszłości.
The source of the article is from the blog klikeri.rs