Wprowadzenie nowego chatbota opartego na sztucznej inteligencji w Nowym Jorku przez burmistrza Erica Adamsa spotkało się z mieszanymi reakcjami. Choć docelowo miał on służyć właścicielom firm, dostarczając im dokładnych informacji, niedawne doniesienia o udzielaniu błędnych porad budzą wątpliwości co do jego skuteczności i rzetelności.
Chatbot MyCity, uruchomiony jako program pilotażowy w październiku, miał odpowiadać na zapytania biznesmenów poprzez internetową platformę, dostarczając im odpowiedzi w sposób szybki i precyzyjny. Niestety, skuteczność chatbota została poddana w wątpliwość. Dziennikarze z The Markup zauważyli przypadki, gdzie chatbot udzielał nieprawidłowych porad, sugerując np., że pracodawcy mogą zabrać część napiwków pracowników oraz twierdząc, że nie istnieją przepisy dotyczące zmian w grafikach pracowniczych.
Mimo tych usterek burmistrz Adams pozostaje optymistyczny co do potencjalnej roli technologii AI. Podkreśla on, że chatbot jest wciąż we wczesnych etapach rozwoju i konieczne są korekty. „Zawsze, kiedy korzystasz z technologii, musisz ją umieścić w rzeczywistym środowisku, aby wyeliminować niedoskonałości” – stwierdził Adams.
Problemy chatbota wykraczają poza konkretną bezprawność. Fałszywie twierdzi, że właściciele sklepów mogą odmówić przyjmowania gotówki, pomimo ustawy z 2020 roku zakazującej takich praktyk. Ponadto jego wiedza na temat minimalnej płacy w mieście jest przestarzała, nadal uważa, że wynosi ona 15 dolarów za godzinę, pomijając podwyżkę do 16 dolarów w 2024 roku.
Niedokładności te budzą obawy co do rzetelności chatbotów opartych na technologii generatywnej AI, takich jak ChatGPT. Te platformy znane są z tworzenia fałszywych informacji lub pewności w głoszeniu nieprawd, co prowadzi do wprowadzających w błąd odpowiedzi.
Chociaż Microsoft, dostawca technologii AI, nie ujawnił dokładnej przyczyny tych problemów, potwierdził współpracę z miastem w celu ich rozwiązania. Biuro Technologii i Innowacji oczekuje znaczącej poprawy dokładności odpowiedzi chatbota w najbliższej przyszłości.
FAQ
1. Co to jest chatbot MyCity?
– Chatbot MyCity to narzędzie sztucznej inteligencji opracowane przez miasto Nowy Jork, które ma za zadanie dostarczać właścicielom firm informacje i wskazówki na różne tematy.
2. Dlaczego chatbot został skrytykowany?
– Chatbot został skrytykowany za udzielanie błędnych porad, w tym nieprawdziwych informacji na temat odliczeń z napiwków przez pracodawców i zmian w grafikach pracowniczych.
3. Kto jest odpowiedzialny za technologię AI używaną w chatbocie?
– Usługa Azure AI firmy Microsoft napędza chatbota, a firma ta współpracuje z miastem w celu rozwiązania problemów i poprawy jego dokładności.
4. Czy chatbot jest nadal dostępny do użytku?
– Tak, chatbot jest nadal dostępny; jednakże użytkownicy powinni być ostrożni i nie polegać wyłącznie na jego odpowiedziach, ponieważ mogą być one niepełne lub niedokładne.
Podsumowując, chatbot MyCity miał na celu dostarczanie wiarygodnych informacji, ale jego niedociągnięcia ujawniają wyzwania związane z wdrażaniem technologii AI na szeroką skalę miejską. W miarę jak burmistrz Adams kontynuuje wspieranie rozwoju chatbota, wyraźnie widać, że dalsze udoskonalenia są niezbędne, aby zapewnić jego niezawodność i przydatność dla właścicieli firm poszukujących precyzyjnych wskazówek.
Chatbot MyCity, opracowany przez miasto Nowy Jork, wpisuje się w branżę technologii sztucznej inteligencji (AI). Chatboty AI zyskują popularność w różnych sektorach, w tym obsłudze klienta i wsparciu informacyjnym. Rynek chatbotów AI ma znacząco wzrosnąć w nadchodzących latach, z oczekiwaną średnią roczną stopą wzrostu na poziomie XX% między 2022 a 2027 rokiem, według ekspertów branżowych (źródło: MarketResearch.com).
Jednakże niedawne krytyki dotyczące nieścisłości w działaniu chatbota MyCity podkreślają wyzwania, z jakimi borykają się chatboty AI dostarczające rzetelnych informacji. Na tematy, jak odliczenia z napiwków przez pracodawców i zmiany w grafikach pracowniczych, udzielane są nieprawidłowe porady. Te niedociągnięcia budzą obawy co do ogólnej rzetelności chatbotów AI, które działają na platformach technologii generatywnej AI, takich jak ChatGPT.
Usługa Azure AI firmy Microsoft napędza chatbota MyCity, a obie firmy współpracują z miastem Nowy Jork, aby rozwiązać problemy i polepszyć jego dokładność. Biuro Technologii i Innowacji oczekuje znaczącej poprawy dokładności odpowiedzi chatbota w najbliższej przyszłości.
Braki w działaniu chatbota skłoniły miasto do aktualizacji ostrzeżeń na stronie internetowej chatbota MyCity. Ostrzeżenia te teraz jasno wskazują, że udzielane odpowiedzi mogą być nieprawidłowe lub niekompletne, ostrzegając firmy przed ich wyłącznym poleganiem na nich jako poradach prawnych ani zawodowych.
Dla branży chatbotów AI ważne jest ponowne przemyślenie roli technologii AI w obsłudze biznesu. Chociaż istnieje potencjał dla chatbotów AI do dostarczania cennych informacji i wskazówek, istotne jest, aby utrzymywały one wysoki poziom wiarygodności. Niedokładne porady, jakie mogą być stosowane przez firmy, mogą mieć znaczące konsekwencje. Dlatego konieczne jest, aby chatboty AI spełniały swój zamierzony cel dostarczania precyzyjnych i zaufanych informacji bez konieczności dodatkowych weryfikacji prawnych.
W miarę jak rozwój i wykorzystanie chatbotów AI nadal wzrastają, istotne jest, aby firmy i użytkownicy zachowali ostrożność i zastosowali krytyczne myślenie polegając na dostarczanych informacjach. Niedociągnięcia chatbota MyCity wskazują na potrzebę dalszego udoskonalenia technologii AI, aby zapewnić jej niezawodność i przydatność dla właścicieli firm poszukujących precyzyjnych wskazówek.
The source of the article is from the blog newyorkpostgazette.com