Nesen New Yorkā ieviesta mākslīgā intelekta čatbota MyCity ir nonākusi kritikas krustugunī par nepareizu atbilžu sniegšanu vai pat padomu, kas varētu radīt juridiskas problēmas uzņēmējiem. Šo čatbotu, ko izvirzīja par vadošo piemēru mākslīgā intelekta tehnoloģiju izmantošanā, izstrādāja, lai uzņēmējiem sniegtu uzticamu informāciju atbildē uz viņu jautājumiem. Tomēr žurnālisti no izmeklēšanas aģentūras The Markup atklāja neprecizitātes čatbota atbilžu ziņojumos.
Mērs Eric Adams, kursam ir bijis nepārbaudītas tehnoloģijas ieviešanas pieturpunkts pilsētā, atzina čatbota trūkumus un uzsvēra, ka tas joprojām ir pilotu fāzē. Viņš pauda nepieciešamību risināt problēmas un uzlabot sistēmu, norādot, ka tehnoloģiju lietošanai nepieciešams feinšinējums reālā vidē.
Šis nav pirmais gadījums, kad mērs Adams atbalsta tehnoloģijas, kas neatbilda cerībām. Pagājušajā gadā 400 mārciņu robots tika novietots Times Square metro stacijā, lai palīdzētu novērst noziegumus. Taču pēc dažām mēnešiem tas tika izbeigts, jo tas bija neefektīvs un ar ierobežojumiem. Komūnti norādīja, ka robots šķita nederīgs un nevarēja navigēt pa kāpnēm.
Neskatoties uz ziņojumiem par neprecizitātēm, MyCity čatbots joprojām ir pieejams tiešsaistē un turpina sniegt nepareizas atbildes. Piemēram, tas kļūdaini ieteiktu, ka veikalu īpašniekiem ir tiesības noraidīt skaidru naudu, neskatoties uz to, ka pilsētas padome 2020. gadā pieņēma likumu, kas aizliedz šādas prakses. Turklāt čatbots joprojām uzskata, ka minimālā alga ir 15 ASV dolāri stundā, neskatoties uz to, ka tā tika paaugstināta līdz 16 dolāriem 2024. gadā.
MyCity čatbots izmanto Microsoft Azure AI servisu, kas ir pakļauts ierobežojumiem, kas ir raksturīgi generējošiem AI tehnoloģiju platformām, piemēram, ChatGPT. Šīs platformas ir pazīstamas ar to, ka tās laiku pa laikam rada viltotu informāciju ar augstu pārliecību. Microsoft nav atklājis precizitātes neprecizitāšu konkrēto iemeslu, bet ir apņēmies sadarboties ar pilsētu, lai tās risinātu.
Pilsētas Tehnoloģiju un inovāciju birojs arī atzīst problēmas un plāno tās nekavējoties novērst. Viņi paredz nozīmīgas uzlabojumus čatbota precizitātē jau nākamajā nedēļā. Tomēr gan Microsoft, gan pilsētas domes pārstāvji nav snieguši turpmākas detaļas par kļūdu konkrētiem cēloņiem vai to risināšanas veidiem.
Lai risinātu šīs problēmas, MyCity čatbota vietnē esošie norādījumi ir atjaunoti, skaidri norādot, ka atbildes var būt neprecīzas vai nepilnīgas. Uzņēmumi tiek brīdināti nelietot čatbota atbildes kā juridisku vai profesionālu padomu.
Andrews Rigies, NYC Hospitality Alliance direktors, ir saņēmis atsauksmes no sašutušiem uzņēmējiem, kuri saskārušies ar čatbota dezorientējošajām atbildēm. Lai arī viņš novērtē pilsētas centienus izmantot AI, lai palīdzētu uzņēmumiem, Rigies brīdina, ka balstoties uz nepareizām čatbota vadlīnijām var būt nopietnas juridiskas sekas. Viņš uzsver precizitātes un uzticamības svarīgumu, lai čatbota informācija atbilstu tā paredzētajai funkcijai.
Bieži uzdotie jautājumi (FAQ):
The source of the article is from the blog kewauneecomet.com