Nový robotický chatbot umiestnený v New York City má svoje problémy napriek snahám vytvoriť inteligentný a efektívny spôsob poskytnutia informácií podnikateľom. Primátor mesta, Eric Adams, bráni novú umele inteligenciu chatbota, ktorá čelila kritike za poskytovanie podnikateľom nesprávnych odpovedí a rád, ktoré by mohli viesť k právnym porušeniam.
Prezentovaný ako pilotný program v októbri, chatbot s názvom MyCity mal poskytnúť podnikateľom presné a priamočiare informácie na základe ich otázok.
Avšak novinári z The Markup objavili, že chatbot často poskytoval nepresné informácie. Nesprávne poradil zamestnávateľom, že môžu zobrať časť z platových špičiek svojich pracovníkov, a tiež nesprávne uviedol, že nie sú žiadne predpisy, ktoré by nariaďovali zamestnávateľom uviesť zmeny v pracovnom pláne zamestnancom.
Uznaním týchto problémov primátor Adams, demokrat, zdôraznil potrebu riešiť problémy, pričom podčiarkol, že chatbot bol stále vo svojich počiatočných štádiách vývoja. Uznal, že testovanie technológie v reálnych situáciách pomáha identifikovať a odstrániť akékoľvek nedostatky, ktoré sa môžu vyskytnúť.
Hoci je chatbot stále prístupný online, občas stále poskytuje nesprávne odpovede. Napríklad tvrdí, že majitelia obchodov môžu odmietnuť prijať hotovosť, pritom nevedomý, že zákon z roku 2020 mestskej rady zakazuje podnikom tak konať. Navyše, nevie o nedávnom zvýšení minimálnej mzdy v meste na 16 dolárov za hodinu v roku 2024, nesprávne uvádzajúc ju na 15 dolárov.
Chatbot spoléha na službu AI od spoločnosti Microsoft Azure, ale chyby, ktoré robí, sú bežne spojené s platformami generatívnej technológie AI, ako je napríklad ChatGPT. Tieto platformy sú známe tým, že občas fabrikujú informácie alebo tvrdia nepravdy s nepodloženou dôverou. Ani Microsoft, ani mestská rada, sa nevyjadrili k otázkam týkajúcim sa zdroja týchto chýb alebo možných riešení.
Na riešenie týchto obáv mesto aktualizovalo disclaimer na webovej stránke MyCity chatbotu s upozornením, že jeho odpovede môžu byť nepresné alebo neúplné. Podniky sú výslovne upozornené, aby sa nespoliehali na jeho odpovede ako na právne alebo profesionálne poradenstvo.
Andrew Rigie, riaditeľ NYC Hospitality Alliance, ktorý zastupuje tisíce majiteľov reštaurácií, pochválil pokus mesta pomôcť podnikom využívaním AI technológie, ale zdôraznil, že je nevyhnutné, aby bola spoľahlivá. Rigie vyjadril obavy o právne následky, ktorým by mohli čeliť podnikatelia, ak budú nasledovať chybné rady chatbota. Podčiarkol, že konzultácia s právnymi profesionálmi po prijatí odpovedí od chatbota zničí jeho pôvodný účel.
Blok S otázkami
Časté otázky (FAQ)
The source of the article is from the blog radardovalemg.com