Новият роботизиран помощник MyCity на град Ню Йорк, изграден с изкуствен интелект, се подлага на критика за предоставяне на неточни отговори и съвети. Това е подкопало доверието във възможните правни проблеми, пред които могат да се изправят бизнесите, осъществяващи дейност на база на информацията, предоставена от чатбота. Въпреки че чатботът е рекламиран като иновативно приложение на технологията на изкуствения интелект, са открити неточности в неговите отговори.
Кметът на Ню Йорк, Ерик Адамс, който подкрепя внедряването на непроверени технологии в града, призна грешките на чатбота и подчерта, че все още е във въведбената си фаза. Той подчерта нуждата от решаване на проблемите и подобряване на системата, като посочи, че е необходимо изостряне на технологията в реална среда.
Това не е първи път, когато кметът Адамс подкрепя технологии, които не изпълняват очакванията. В предишен случай робот с тегло 400 паунда беше поставен в метростанцията на Таймс Скуеър с цел предотвратяване на престъпността, но бе оттеглен след няколко месеца поради неефективността си и лимитациите.
Въпреки съобщените неточности, MyCity чатботът остава достъпен онлайн и продължава да предоставя неправилни отговори. Например той грешно предполага, че собствениците на магазини могат да откажат приемането на пари в брой, въпреки че през 2020 г. градският съвет прие закон, забраняващ такива практики. Освен това, чатботът все още вярва, че минималната заплата е $15 на час, въпреки че тя беше увеличена на $16 от 2024 г.
MyCity чатботът се базира на услугата Azure AI на Microsoft, която е предразположена към ограниченията, характерни за платформите на генеративните технологии на изкуствения интелект като ChatGPT. Тези платформи са известни с възможността си да генерират лъжлива или измислена информация с висока сигурност. Майкрософт не е разкрил специфичната причина за неточностите, но се е ангажирал да работи с града, за да ги реши.
Кабинетът по технологии и иновации на града също признава проблемите и планира да ги отстрани незабавно. Очаква се значително подобрение на точността на чатбота още в следващата седмица. Въпреки това, както Microsoft, така и ръководството на града не са предоставили по-подробни информации относно конкретните причини за грешките или начините за тяхното отстраняване.
За да се адресират проблемите, откъсите на MyCity чатбот уебсайта са обновени, ясно посочвайки, че отговорите може да са неточни или непълни. Бизнесите се предупреждават да не използват отговорите на чатбота като правен или професионален съвет.
Андрю Риги, директор на Алианса на гостоприемството в Ню Йорк, получава обратна връзка от объркани собственици на бизнеси, които се сблъскват с подвеждащите отговори на чатбота. Докато оценява усилията на града да използва изкуствения интелект за помощ на бизнеса, Риги предупреждава, че вярването в неточните съвети, предоставяни от чатбота, може да има сериозни правни последици. Той подчертава важността от сигурността и надеждността на информацията, предоставяна от чатбота, за да изпълни своето предназначение.
Често задавани въпроси (FAQ):
The source of the article is from the blog radardovalemg.com