I AI-och chatbots-eran har det funnits en ökande tro att dessa teknologier sömlöst kan ersätta mänsklig interaktion inom olika områden. Men nyligen har incidenter gett upphov till oro över begränsningarna och riskerna med att enbart förlita sig på dessa automatiserade system. Fallet med Air Canadas chatbot ger ett tydligt exempel på de potentiella fallgroparna med att använda AI inom kundtjänst.
Jake Moffatt, som sörjde förlusten av sin mormor, sökte information från Air Canadas chatbot om priser för sorgfärd. Chatboten rådde honom att köpa en biljett till fullt pris och sedan begära en delvis återbetalning inom 90 dagar. Moffatt följde detta råd och sparade till och med en skärmdump av konversationen. Men när han kontaktade Air Canada för återbetalningen informerades han om att chatboten hade gett felaktig information.
Denna händelse belyser en viktig fråga med generativ AI, som driver kundtjänstchatbots: potentialen för felaktig information eller vad som refereras till som ”hallucinationer”. AI kan inte skilja mellan korrekt och falsk information; den kan bara omstrukturera befintlig text till troliga svar. I vissa fall kan AI-genererat innehåll hänvisa till icke-existerande information, vilket leder till förvirring och frustration.
Air Canadas svar var lika förbryllande. Istället för att ta ansvar skyllde flygbolaget på Moffatt för att inte dubbelkolla chatbotens råd med sin officiella policy. Air Canada antydde att kunder borde vara medvetna om chatbotens opålitlighet, trots att de fortsätter att använda den på sin webbplats.
Moffatt vägrade acceptera Air Canadas avslag och stämde dem, och vann till sist fallet. Flygbolagets försvar, hävdande att chatboten är en ”separat juridisk enhet,” är ett förbryllande försök att fria sig från ansvar. Det är oskäligt att behandla en bot, utan beslutskapacitet, som en oberoende enhet som är ansvarig för sina egna handlingar.
Denna händelse fungerar som ett väckarklocka och avslöjar de potentiella farorna med att okritiskt lita på AI-drivna system. Även om AI-tekniken utan tvekan har utvecklats, kan den fortfarande inte replikera den nyanserade förståelsen, empatin och omdömet som mänsklig interaktion ger.
Istället för att enbart lita på tanklösa robotar är det avgörande att erkänna AI:s begränsningar och förstå att den inte kan ersätta människor. Medan AI kan förbättra och optimera vissa uppgifter, kan den inte ersätta den mänskliga beröring som krävs för komplexa interaktioner och avgörande beslutsfattande.
Det är viktigt för organisationer och individer att närma sig AI med försiktighet, att erkänna dess potentiella fallgropar och överväga mänsklig tillsyn och intervention. Istället för att sträva efter AI som en universallösning på alla våra problem bör vi fokusera på samarbetsinsatser som utnyttjar både AI:s och mänsklig intelligens styrkor för att skapa en mer balanserad och effektiv framtid.
The source of the article is from the blog toumai.es