Штучний інтелект у бізнесі стає все більш актуальним і необхідним. Саме тому важливо розглядати різні аспекти порівняльно з уже завданими стандартами та непередбаченими викликами. Недавно у Нью-Йорку створено чат-бот MyCity, який має за мету надавати корисну інформацію власникам бізнесу. Проте цей бот отримав критику через надання неправильних відповідей та порад, які можуть призвести до порушень закону.
Журналісти з видання The Markup виявили, що бот часто надавав хибну інформацію. Зокрема, він неправильно радив роботодавцям забирати частину чайок своїх працівників, а також невірно стверджував, що немає ніяких правил, що вимагають від роботодавців повідомляти працівників про зміни у графіку роботи.
Мер Нью-Йорку Ерік Адамс визнав ці проблеми та підкреслив, що чат-бот знаходиться на ранній стадії розвитку. Він підкреслив важливість тестування технології в реальних сценаріях для виявлення та виправлення будь-яких недоліків, які можуть виникнути.
Незважаючи на спроби вдосконалити чат-бота, він і далі час від часу надає неправильні відповіді. Наприклад, він невірно стверджує, що власники магазинів можуть відмовитися від приймання готівки, не враховуючи закон міської ради, який забороняє підприємствам це робити з 2020 року. Крім того, він не знає про недавнє збільшення мінімальної зарплати в місті до $16 за годину в 2024 році, неправильно стверджуючи, що вона складає $15.
Про ці проблеми не були висловлені ні Microsoft або міська рада.
Для вирішення питань місто оновило попередження на веб-сайті чат-бота MyCity, підкреслюючи, що відповіді можуть бути неточними або неповними. Бізнесу явно рекомендується не покладатися на його відповіді як на правову або професійну пораду.
Андрю Ріджі, директор Нью-Йоркського альянсу гостинності, який представляє тисячі власників ресторанів, привітав спроби міста допомогти бізнесу за допомогою технології штучного інтелекту, але підкреслив важливість надійності. Ріджі висловив обурення щодо правових наслідків, які можуть спіткати власників бізнесу, якщо вони будуть слідувати хибним порадам чат-бота.
Загалом, хоча чат-бот MyCity є інноваційною спробою надати власникам бізнесу швидку та доступну інформацію, наразі йому не вдається досягти поставленої мети. Мер Адамс і відповідні стейкхолдери повинні вирішити проблеми та працювати над покращенням точності та надійності чат-бота.
Часті запитання
1. Яка мета чат-бота MyCity?
MyCity чат-бот призначений для надання власникам бізнесу в Нью-Йорку точної та дієвої інформації у відповідь на їх запитання.
2. Чому бот отримав критику?
Чат-бот став об’єктом критики через часті надання неправильних відповідей та порад, які можуть привести до порушень закону.
3. Які є приклади хибної інформації, яку надає бот?
Бот неправильно радить роботодавцям стосовно можливості забирати частину чайок їхніх працівників. Він також стверджував, що немає жодних правил, що вимагають від роботодавців повідомляти працівників про зміни у графіку роботи, що є неправдою.
4. Які кроки вживаються для вирішення проблем?
Місто оновило попередження на веб-сайті чат-бота MyCity, визнавши потенційні неточності відповідей та рекомендуючи бізнесу не покладатися на них як на правові або професійні поради. Крім того, у змозі розробників виправити помилки та покращити надійність.
5. Які стурбованості висловили власники бізнесу та представники галузі?
Власники бізнесу та представники галузі висловили стурбованість щодо правових наслідків, які можуть виникнути внаслідок виконання хибних порад чат-бота. Вони підкреслюють необхідність отримання надійної та точної інформації.
(Джерело: Reuters – посилання на статтю: reuters.com)
The source of the article is from the blog be3.sk