Новый чат-бот MyCity в Нью-Йорке, представляющий собой инструмент искусственного интеллекта, разработанный для помощи владельцам бизнеса, получил критику за предоставление некорректных ответов и советов, которые могут привести к нарушениям закона. Чат-бот был введен как пилотный проект в октябре с целью предоставления точной информации владельцам бизнеса в ответ на их запросы.
Инвестиционные журналисты из The Markup выяснили, что чат-бот часто предоставлял ошибочную информацию. Например, он неправильно советовал работодателям, что они могут забирать часть чаевых своих работников, и неправильно заявлял, что нет законов, требующих работодателей уведомлять работников об изменениях в графике.
Мэр Нью-Йорка Эрик Адамс, демократ, признал проблемы и подчеркнул, что чат-бот все еще находится в начальной стадии развития. Он подчеркнул важность тестирования технологии в реальных сценариях для выявления и устранения любых недостатков.
Не смотря на усилия по улучшению чат-бота, он продолжает иногда давать неверную информацию. Например, он неправильно утверждает, что владельцы магазинов могут отказаться принимать наличные, не зная о законе городского совета, запрещающем бизнесам делать это с 2020 года. Кроме того, он не знает о недавнем увеличении минимальной заработной платы в городе до $16 в час в 2024 году, неправильно утверждая, что это $15.
Чат-бот MyCity рассчитывает на службу искусственного интеллекта Azure от Microsoft, но ни Microsoft, ни мэрия не ответили на запросы касательно источника этих ошибок или возможных решений.
Для решения проблем город обновил отказы на веб-сайте чат-бота MyCity, предупреждая, что его ответы могут быть недостоверными или неполными. Бизнесу явно рекомендуется не полагаться на его ответы как на юридические или профессиональные советы. Андрю Риги, директор Нью-Йоркского союза гостеприимства, представляющий тысячи владельцев ресторанов, похвалил попытку города помочь бизнесу с использованием технологии искусственного интеллекта, но подчеркнул необходимость надежности. Он выразил опасения о юридических последствиях, с которыми могут столкнуться владельцы бизнеса, если они будут следовать недостоверным советам чат-бота.
В целом, хотя чат-бот MyCity представляет собой инновационную попытку предоставить быструю и доступную информацию владельцам бизнеса, в настоящее время он не справляется с достижением своей цели. Мэр Адамс и заинтересованные стороны должны решить проблемы и работать над улучшением точности и надежности чат-бота.
Часто задаваемые вопросы (FAQ)
1. Чем был задуман чат-бот MyCity?
Чат-бот MyCity задуман как инструмент, который предоставляет владельцам бизнеса в Нью-Йорке точную и действенную информацию в ответ на их запросы.
2. Почему чат-бот получил критику?
Чат-бот столкнулся с критикой из-за частого предоставления неверных ответов и советов, которые могут привести к нарушениям закона.
3. Какие примеры неправильной информации полученной от чат-бота?
Чат-бот неправильно советовал работодателям относительно их способности забирать часть чаевых своих работников. Он также утверждал, что нет никаких законов, требующих работодателей уведомлять работников об изменениях в графике, что неверно.
4. Какие шаги предпринимаются для устранения проблем?
Город обновил отказы на веб-сайте чат-бота MyCity, признавая потенциальную ошибочность ответов и предупреждая бизнес о том, что на них нельзя полагаться как на юридические или профессиональные советы. Кроме того, ведутся работы по устранению ошибок и улучшению надежности чат-бота.
5. Какие опасения вызвали владельцы бизнеса и представители отрасли?
Владельцы бизнеса и представители отрасли выразили опасения относительно юридических последствий, которые могут возникнуть при выполнении недостоверных советов чат-бота. Они подчеркивают необходимость того, чтобы чат-бот предоставлял надежную и точную информацию.
(Источник: Reuters — ссылка на статью: reuters.com)
The source of the article is from the blog zaman.co.at