Umelo sa % o New York City rozprestrili metropónu umelou inteligenciou, v podobe chatbota s názvom MyCity, dočelil ostrej kritiky za poskytovanie nesprávnych odpovedí a informácií, čo by mohlo viesť k právnym problémom pre majiteľov firiem. MyCity sa vychvaľoval ako prelomové využitie AI technológie, ktorej cieľom bolo poskytovať majiteľom firiem spoľahlivé informácie na základe ich otázok. Avšak, novinári zo vyšetrovacieho médiálneho outletu The Markup zistili nepresnosti v odpovediach chatbota.
Prednosta radnice, Eric Adams, ktorý bol zástancom implementácie neotestovanej technológie vo meste, uznal nedostatky chatbota a zdôraznil, že sa stále nachádza vo fáze testovania. Vyjadril potrebu riešiť problémy a vylepšiť systém, pričom vysvetlil, že využívanie technológie vyžaduje doladenie v reálnom prostredí.
Nieto prvýkrát, čo starosta Adams podporil technológiu, ktorá nesplnila očakávania. Minulý rok bol do stanice metra Times Square umiestnený robot vážiaci 400 libier na pomoc pri predchádzaní zločinu. Avšak bol vyřazený po niekoľkých mesiacoch kvôli jeho neúčinnosti a obmedzeniam. Cestujúci si všimli, že robot neplnil žiadny účel a nedokázal sa pohybovať po schodoch.
Napriek správam o nepresnostiach ostáva MyCity chatbot prístupný online a stále poskytuje nesprávne odpovede. Napríklad chybne naznačuje, že majitelia obchodov môžu odmietnuť prijímať hotovosť, aj keď mestská rada prijala v roku 2020 zákon zakazujúci takéto praktiky. Okrem toho chatbot stále verí, že minimálna mzda je 15 dolárov za hodinu, hoci bola zvýšená na 16 dolárov od roku 2024.
Chatbot sa opiera o službu Azure AI od Microsoftu, ktorá je náchylná na obmedzenia bežné pre generatívne platformy AI, ako je ChatGPT. Tieto platformy sú známe tým, že s vysokou dôverou produkujú falošné alebo zmanipulované informácie. Microsoft nezverejnil konkrétnu príčinu nepresností, ale zaviazal sa spolupracovať s mestom na ich riešení.
Úrad pre technológie a inovácie mesta taktiež uznáva problémy a plánuje ich rýchlo napraviť. Predpokladajú významné zlepšenia presnosti chatbota už do budúceho týždňa. Microsoft ani radnica však nezverejnili ďalšie podrobnosti o konkrétnych príčinách chýb alebo spôsoboch ich riešenia.
Na zmiernenie obáv boli disclaimery na webovej stránke chatbota MyCity aktualizované a explicitne uvádzajú, že odpovede môžu byť nepresné alebo neúplné. Firmy sa upozorňujú, aby nevyužívali odpovede chatbota ako právne alebo profesionálne poradenstvo.
Andrew Rigie, riaditeľ NYC Hospitality Alliance, prijal spätnú väzbu od zmätených majiteľov firiem, ktorí sa stretli s zavádzajúcimi odpoveďami chatbota. Hoci ocenil snahy mesta využívať AI na pomoc firiem, Rigie varuje, že spoliehanie sa na nesprávne usmernenie chatbota môže mať vážne právne dôsledky. Podčiarkuje dôležitosť zabezpečenia správnosti a spoľahlivosti informácií poskytovaných chatbotom, aby plnil svoj zámer.
The source of the article is from the blog qhubo.com.ni