У епоху штучного інтелекту та чат-ботів виникає все більше віри в те, що ці технології можуть безперешкодно замінити людську взаємодію в різних сферах. Проте останні події викликали питання стосовно обмежень та ризиків, що пов’язані з виключним спиранням на ці автоматизовані системи. Випадок з чат-ботом Air Canada надає виразний приклад можливих проблем використання штучного інтелекту в обслуговуванні клієнтів.
Джейк Моффат, переживаючи втрату своєї бабусі, звернувся до чат-бота Air Canada для отримання інформації про тарифи на похорони. Чат-бот порадив йому придбати квиток за повної вартості й потім подати запит на частковий повернення коштів протягом 90 днів. Моффат дотримався цієї поради і навіть зберіг знімок розмови. Однак, коли він звернувся до Air Canada для отримання повернення, йому повідомили, що чат-бот надав хибну інформацію.
Цей випадок підкреслює критичну проблему з генеративним штучним інтелектом, який працює у чат-ботах для обслуговування клієнтів: можливість надання неправильної інформації або так званих “галюцинацій”. Штучний інтелект не може розрізняти між точною та хибною інформацією; він лише може переробляти існуючий текст у можливі відповіді. У деяких випадках створена штучним інтелектом інформація може посилатися на неіснуючу інформацію, що призводить до плутанини та роздратування.
Відповідь Air Canada також була дивною. Замість взяття на себе відповідальності, авіакомпанія звинуватила Моффата в тому, що він не перевірив пораду чат-бота відповідно до її офіційної політики. Air Canada натякала на те, що клієнти мають бути усвідомленістю ненадійності чат-бота, незважаючи на те, що вони продовжують використовувати його на своєму власному веб-сайті.
Моффат відмовився приймати відмову від Air Canada і подав позов, в остаточному підсумку виграючи справу. Оборона авіакомпанії, утверджуючи, що чат-бот є “окремим юридичним суб’єктом”, є дивовижною спробою уникнення відповідальності. Нерозумно ставити бота, позбавленого можливості приймати рішення, як незалежний суб’єкт, відповідального за свої власні дії.
Цей випадок слугує сигналом тривоги, що розкриває можливі небезпеки беззаперечної довіри до систем, що працюють на основі штучного інтелекту. Хоча технологія штучного інтелекту невідомо розвинулася, вона все одно не може відтворити тонке розуміння, співчуття та судження, яке забезпечує людська взаємодія.
Замість зосередження тільки на бездумних роботах, важливо визнати обмеження штучного інтелекту і зрозуміти, що він не може повністю замінити людей. Хоча штучний інтелект може доповнювати і оптимізувати певні завдання, він не може замінити людського контакту, який необхідний для складних взаємодій та важливого прийняття рішень.
Важливою є обережність організацій та осіб у відношенні до штучного інтелекту, визнання його можливих підводних каменів і розгляд людського нагляду та втручання. Замість того, щоб вважати штучний інтелект універсальним засобом для вирішення всіх наших проблем, ми повинні зосередитися на спільних зусиллях, які використовують переваги як штучного інтелекту, так і людського інтелекту для створення більш збалансованого та ефективного майбутнього.
The source of the article is from the blog shakirabrasil.info