Довіра громадськості до штучного інтелекту урядовими органами під загрозою
Недавній інцидент з штучним чат-ботом, наданим урядом Нью-Йорка, викликав серйозні обурення через передчасне впровадження штучного інтелекту в громадському секторі. Чат-бот, який мав надавати надійні консультації малим власникам бізнесу, невірно порадив і може відзначатися важливі юридичні наслідки.
Штучний Інтелект як Ненадійний Дорадник Уряду
Працюючи з жовтня як складова частина першовідкривального плану дій зі штучного інтелекту міста, чат-бот був виявлений журналістами, які провели розслідування, чинити неправильні рекомендації, зокрема, неправильно вказувати, що роботодавцям дозволено поглиблювати грошові чайові працівників. Ця невірна інформація не лише суперечить суворим місцевим законам про працю, але і може здати бізнес-власників і працівників на помилковий шлях, створюючи умови для можливої крадіжки зарплати та наступних юридичних суперечок.
Наслідки поспіху впровадження ШІ
Ідея “рухатися швидко і ламати речі” в у сфері технологій, хоча популярна серед стартапів технологічної галузі, виявилася недоцільною для урядових органів, які зобов’язані обдумано та відповідально надавати громадські послуги. Коли ці технології помиляються, це не лише про виправлення помилок; це про збільшення навантаження та ризик для громадян та можливе підривання правової системи, яка зобов’язана їх захищати. Справа з Air Canada, коли клієнт подав позов через неправильну інформацію від чат-бота зі штучним інтелектом, ілюструє потенційне правове залякування для урядових установ, які надають неправильні консультації через посередників із ШІ.
Попит на громадську думку та ретельне тестування урядового ШІ
Оскільки уряди планують далі інтегрувати технології у свою діяльність, надзвичайно важливо враховувати громадський відгук та проводити докладну перевірку цих інструментів до їх впровадження. Ця перевірка необхідна не лише для покращення урядових послуг, але також для збереження довіри громадськості та забезпечення цілісності державної законодавчої та регуляторної систем, яку уряди повинні дотримуватися.
Розуміння недоліків ШІ в громадському секторі
ШІ громадського сектору, подібне каталогу з помилками чат-бота Нью-Йорка, часто стримується необгрунтованими складнощами в політиці та мові, які можуть бути менше поширеними в приватному секторі. Системи ШІ вимагають великого обсягу даних для навчання і громадський сектор може мати фрагментовані та ізольовані дані, які впливають на процес навчання ШІ. Крім того, етичні вимоги та прозорість є критичними у сфері уряду, але системи ШІ можуть зустрічати труднощі у виявленні того, як доходять висновків, що веде до проблем з довірою.
Важливі питання та відповіді
1. Чому впровадження ШІ в громадському секторі більш схильне до недоліків?
ШІ в громадському секторі часто стикається з необхідністю комплексного розуміння складних правил, наслідків політики та етичних вимог. Уряди також зазвичай стикаються з більші вимогами щодо прозорості та обліку.
2. Як недоліки ШІ впливають на громадську довіру?
Розповсюдження невірної інформації від систем ШІ, особливо тих, що представляють урядові установи, можуть призвести до юридичних проблем, громадського недовіри та можливо завдати шкоди особам, які покладаються на ці поради для прийняття важливих рішень.
3. Які заходи можуть покращити надійність систем ШІ урядових органів?
Ретельне тестування, поетапне впровадження, постійні зворотні зв’язки та прозорі механізми для прийняття рішень за допомогою ШІ можуть покращити надійність систем ШІ в громадському секторі.
Ключові виклики та суперечності
Справа з чат-ботом в Нью-Йорку відкриває виклик узгодження можливостей ШІ з високим ризиком у видачі урядової поради. Забезпечення оновленими юридичними базами даних у ШІ та можливості тлумачити складні правила – це постійні виклики. Більше того, існує суперечка щодо того, чи варто урядовим установам замовляти розробку ШІ в приватних компаніях без власного контролю над етикою та ефективністю ШІ.
Переваги та недоліки ШІ в громадському секторі
Переваги:
– Ефективність та доступність: ШІ може швидко обробляти запити і надавати 24/7 послуги громадськості.
– Аналіз даних: ШІ може допомогти в аналізі великих наборів даних для формування політики та покращення громадських послуг.
– Зменшення витрат: З часом системи ШІ можуть потенційно зменшити витрати, пов’язані з ручним обробленням і адмініструванням.
Недоліки:
– Ризик невірної інформації: Як показано, ШІ може поширювати невірну інформацію зі значними наслідками.
– Питання конфіденційності: Системи ШІ можуть викликати питання конфіденційності даних, особливо якщо для надання поради вони вимагають особистої інформації.
– Складне розуміння політики: ШІ може мати проблеми з розумінням тонкощів загальних положень і законів, які регулюють громадський сектор.
Для отримання додаткової інформації щодо використання та впливу ШІ в громадському секторі може бути корисним наступний посилання: Організація Економічного Співробітництва та Розвитку (ОЕСР). ОЕСР надає висвітлення та дані щодо управління та впровадження ШІ в країнах-членах, включаючи найкращі практики та політичні рекомендації.