New York város polgármestere, Eric Adams, nemrég védelmébe vette a város új mesterséges intelligenciára épülő chatbotját, amely kritikával szembesült azzal kapcsolatban, hogy helytelen válaszokat és tanácsokat ad üzleti tulajdonosoknak, ami jogi megsértésekhez vezethet. A MyCity chatbot pilot programként indult októberben, hogy pontos és cselekvésre kész információkkal lássa el az üzleti tulajdonosokat a kérdéseikre adott válaszokban.
Azonban a The Markup munkatársai felfedezték, hogy a chatbot gyakran helytelen információkat szolgáltatott. Tévesen tanácsolta a munkáltatókat, hogy vehetnek részt munkavállalóik borravalójának egy részében, illetve helytelenül állította, hogy nincsenek szabályozások, amelyek köteleznék a munkáltatókat arra, hogy értesítsék alkalmazottaikat az órarend változásairól.
Az érintett problémákat elismerve, a demokrata polgármester, Eric Adams hangsúlyozta a szükségét annak, hogy kezeljék azokat, kiemelve, hogy a chatbot még mindig a fejlesztés korai szakaszában van. Felismerte, hogy a technológia tesztelése valós körülmények között segít azonosítani és kijavítani a felmerülő hibákat.
Míg a chatbot továbbra is elérhető az interneten, még mindig időnként helytelen válaszokat ad. Például azt állítja, hogy az üzleti tulajdonosok visszautasíthatják a készpénzt, anélkül, hogy tudnák, hogy egy 2020-as városi tanácsi törvény tiltja a vállalkozásoknak ezt. Ezenkívül nincs tudomása a város minimálbérének legutóbbi emeléséről 16 dollárra óránként 2024-ben, helytelenül 15 dollárról szólva.
A MyCity chatbot a Microsoft Azure AI szolgáltatásra támaszkodik, de a hibák, melyeket elkövet, gyakran összefüggésbe hozhatók olyan generatív AI technológia platformokkal, mint például a ChatGPT. Ezek a platformok hajlamosak időnként kitalálni információkat vagy hamis állításokkal biztosnak látszó önbizalommal rendelkeznek. Sem a Microsoft, sem a városháza nem foglalkozott a hiba forrásával vagy a lehetséges megoldásokkal kapcsolatos érdeklődésekkel.
Az aggodalmak kezelésére a város frissítette a MyCity chatbot webhelyén a felhasználási feltételeket, figyelmeztetve az üzleteket, hogy ne támaszkodjanak a válaszaikra jogi vagy szakmai tanácsadásként.
Andrew Rigie, a NYC Hospitality Alliance igazgatója, aki több ezer étterem tulajdonosát képviseli, elismeri a város kísérletét az AI technológia felhasználásával az üzletek segítésére, de hangsúlyozza annak létfontosságát, hogy megbízható legyen. Aggodalmát fejezte ki azokkal a jogi következményekkel kapcsolatban, amelyekkel az üzleti tulajdonosok szembesülhetnek, ha követik a chatbot hibás útmutatásait. Kiemelte, hogy jogi szakemberekhez fordulni a chatbot válaszainak megkapása után nem szolgálja a chatbot eredeti célt.
Bár a MyCity chatbot innovatív kísérletet jelent az üzleti tulajdonosok számára gyors és hozzáférhető információk nyújtására, jelenleg nem éri el a kitűzött célját. Polgármester Adamsnak és az érintett érdekelt feleknek fel kell rázniuk magukat, hogy megoldják a problémákat és növeljék a chatbot pontosságát és megbízhatóságát.
**Gyakran Ismételt Kérdések (FAQ)**
1. Mi a MyCity chatbot célja?
A MyCity chatbot üzleti tulajdonosok számára New York Cityben tervezett mesterséges intelligencia eszköz, amely pontos és cselekvésre kész információkkal látja el őket a kérdéseikre adott válaszokban.
2. Miért kapott kritikát a chatbot?
A chatbot kritikát kapott gyakori helytelen válaszok és tanácsok miatt, amelyek lehetőséget nyújtanak jogi megsértésekhez.
3. Mik néhány példa a chatbot által szolgáltatott téves információkról?
A chatbot helytelenül tanácsolta a munkáltatókat a munkavállalók borravalójának egy részének elvételében, valamint állította, hogy nincsenek szabályozások, amelyek köteleznék a munkáltatókat alkalmazottaik tájékoztatására az órarend változásairól.
4. Milyen lépések történnek annak érdekében, hogy kezeljék a problémákat?
A város frissítette a felhasználási feltételeket a MyCity chatbot webhelyén, elismerve a válaszaik potenciális pontatlanságát és figyelmeztetve az üzleti szereplőket, hogy ne támaszkodjanak rájuk jogi vagy szakmai tanácsadásként. Emellett lépések történnek a hibák kijavítása és a chatbot megbízhatóságának növelése érdekében.
5. Milyen aggodalmakat vetnek fel az üzleti tulajdonosok és az iparági képviselők?
Az üzleti tulajdonosok és az iparági képviselők aggodalmukat fejezték ki a jogi következmények miatt, amelyek a chatbot hibás útmutatásainak követése esetén jelentkezhetnek. A megbízható és pontos információk nyújtásának szükségességét hangsúlyozzák.
(Forrás: Reuters – cikk linkje: a href=”https://www.reuters.com”>reuters.com)
The source of the article is from the blog elektrischnederland.nl