V ére umelej inteligencie a chatbotov sa stále viac presviedča o tom, že tieto technológie dokážu bezproblémovo nahradiť ľudskú interakciu v rôznych oblastiach. Avšak nedávne udalosti vyvolali obavy o obmedzenia a riziká spojené s výlučným spoliehaním sa na tieto automatizované systémy. Prípad chatbota Air Canada poskytuje výrečný príklad potenciálnych rizík spojených s používaním umelej inteligencie v zákazníckom servise.
Jake Moffatt, trpiaci z dôvodu straty svojej babky, sa obrátil na chatbota spoločnosti Air Canada s otázkou týkajúcou sa zľavy pri úmrtí. Chatbot mu odporučil zakúpiť lístok za plnú cenu a následne požiadať o čiastočné vrátenie peňazí do 90 dní. Moffatt dodržal toto odporúčanie a dokonca si uložil snímku konverzácie. Avšak keď sa pokúsil o vrátenie peňazí Air Canada, bolo mu oznámeno, že chatbot poskytol nesprávne informácie.
Táto udalosť poukazuje na kritický problém s generatívnou umelou inteligenciou, ktorá poháňa chatboty zákazníckeho servisu: potenciál pre dezinformácie alebo takzvané „halucinácie“. Umelá inteligencia nedokáže rozlišovať medzi presnými a falošnými informáciami; môže len premiešavať existujúci text do pravdepodobných odpovedí. V niektorých prípadoch môže obsah generovaný umelou inteligenciou odkazovať na neexistujúce informácie, čo vedie k zmätku a frustrácii.
Odpoveď Air Canada bola rovnako zarážajúca. Namiesto prijatia zodpovednosti letecká spoločnosť obvinila Moffatta, že neporovnal usmernenia chatbota s jej oficiálnou politikou. Air Canada naznačila, že zákazníci by mali byť informovaní o nedôveryhodnosti chatbota, ktorý nadalej používajú na svojom webe.
Moffatt odmietol akceptovať odmietavý postoj Air Canada a podal žalobu, pričom nakoniec vyhral prípad. Obrana leteckej spoločnosti, tvrdiac, že chatbot je „samostatná právna entita“, je zmätený pokus zbaviť sa zodpovednosti. Je nerozumné považovať bota, ktorý nemá schopnosti rozhodovania, za samostatnú entitu zodpovednú za vlastné konanie.
Táto udalosť slúži ako výstraha, odhaľujúca potenciálne nebezpečenstvá nekritického dôvery v systémy riadené umelej inteligenciou. Hoci umelecká inteligencia neustále pokročila, stále nedokáže replicovať nuansované porozumenie, empatiu a úsudok, ktoré poskytuje ľudská interakcia.
Namiesto spoliehania sa výlučne na bezduché roboty je dôležité uznať obmedzenia umelej inteligencie a pochopiť, že nemôže úplne nahradiť ľudí. Hoci umelej inteligencii môže zlepšiť a optimalizovať určité úlohy, nemôže nahradiť ľudský dotyk, ktorý je potrebný pre zložité interakcie a kritické rozhodovanie.
Pre organizácie a jednotlivcov je nevyhnutné pristupovať k umelej inteligencii opatrne, uznávať jej potenciálne riziká a zvažovať ľudský dohľad a intervenciu. Namiesto toho, aby sme presadzovali umelej inteligenciu ako striebornú guľku na všetky naše problémy, mali by sme sa zamerať na spoločné úsilie, ktoré využíva silné stránky umelej inteligencie a ľudskej inteligencie na vytvorenie vyváženejšej a efektívnejšej budúcnosti.
The source of the article is from the blog mivalle.net.ar