У світі штучного інтелекту (ШІ) під поверхнею ховається складна і часто не зважена реальність: участь мільйонів людських працівників, які працюють в таємниці. Ці особи, які спочатку були найняті для навчання алгоритмів, часто виявляються відповідальними за виконання багатьох завдань ШІ. Недавній звіт порталу The Information пролив світло на цих важливих працівників, особливо в контексті технології Just Walk Out від Amazon. Ця технологія, яка дозволяла клієнтам зручно брати продукти в магазинах і виходити без необхідності традиційної оплати, покладалася на понад 1 000 осіб в Індії, які дбайливо спостерігали й позначали відео для забезпечення точного розрахунку.
Хоча Amazon акцентує на своєму веб-сайті використання “комп’ютерного бачення, сенсорної фузії та глибокого навчання” в Just Walk Out, воно не згадує про цих заморських підрядників. На питання Amazon пояснив, що ці працівники просто анотували відео для вдосконалення системи і валідували лише невелику частку візитів для покупок, коли ШІ-системи не могли визначити покупку.
Це відкриття від Amazon слугує важливим нагадуванням, що ефективна діяльність “штучного інтелекту” часто залежить від присутності людських контролерів. Фактично сама Amazon має цілий підрозділ під назвою Amazon Turk, який допомагає іншим компаніям навчати та управляти власними системами ШІ. Несподівано багато фрілансерів по всьому світу ідентифікують себе як “M-Turkers”, а одиниця отримала свою назву від відомої історії про Механічну Турку, шахового автомата 18-го століття, яким підкеровував таємно людина.
Розповсюдження людей, які трудяться за кулісами, на перший погляд передових технологій ШІ, набагато перевершує справу Amazon. Низка інших компаній не розкрили їхньої залежності від людської участі у підтримці їх, як вони стверджували, передових систем ШІ. Facebook, наприклад, закрила свого текстового віртуального помічника M в 2018 році після двох років роботи, під час якої екстенсивно використовувалися людські працівники для навчання та управління базовою системою ШІ. Також стартап з назвою x.ai, який пишався “ШІ персональним помічником” для планування зустрічей, був змушений припинити роботу в 2021 році, так як стикнувся з труднощами у досягненні правдивої алгоритмічної автономії.
Іншим прикладом є британський стартап Builder.ai, який рекламував ШІ-програмне забезпечення для будування додатків, але частково поклався на програмістів в Індії та інших місцях для виконання цієї задачі, як повідомляв The Wall Street Journal.
Ця реальність підкреслює тонку межу між очікуванням заміщення алгоритмів та використанням людських працівників як тимчасового рішення – підхід, який часто виправдовується маркетологами під маскою подальшої автоматизації. Таке “псевдо ШІ” чи “промивання ШІ” було поширене ще до останнього вибуху генеративних технологій ШІ.
Наприклад, West Monroe Partners, фірма, що спеціалізується на дослідженнях для фондів приватного капіталу, дослідила маркетинговий матеріал, який надали 40 американських компаній, які знаходилися на продаж у 2019 році. Аналіз показав, що ці компанії завищували можливості своєї технології в області ШІ та машинного навчання в середньому на понад 30%. По схожих лініях MMC, вентурна капіталістична фірма з Лондона, виявила, що з 2 830 європейських стартапів, класифікованих як ШІ компанії, лише 1580 правомірно відповідали такому опису.
Однією з очевидних проблем, що виникають внаслідок участі людей в ШІ є потенційне порушення конфіденційності. Використання Amazon “наглядного навчання” в його системах ШІ змусило тисячі контрактників прослуховувати команди людей до Алекси. Однак розповсюдження маніпуляційних тверджень в галузі ШІ також призводить до ризиків.
Щасливо, регулятори активно посилюють зусилля для вирішення цього питання та вимагання від компаній відповідальності за маніпулятивні твердження про ШІ. Ісмаіл Ремзі, прокурор Північного округу Каліфорнії, нещодавно оголосив свою намір вжити заходів проти стартапів, які обманюють інвесторів щодо свого використання ШІ перед виходом на біржу. Крім того, у лютому голова Комісії з цінних паперів та бірж США (SEC) Гарі Дженслер попередив, що промивання ШІ може порушувати закони про цінні папери. В результаті дві інвестиційні фірми уклали угоди на загальну суму $ 400 000 з SEC за перебільшення свого використання ШІ.
Навіть у випадках, коли системи ШІ відтворюються точно, важливо визнати існування великої промисловості схованих працівників, які підтримують багато високотехнологічних систем ШІ, отримуючи часто мінімальну компенсацію. Освічені вчені, такі як Кейт Кроуфорд і автори, такі як “Code Dependent” Мадгуміті, широко документували цей явище, проливаючи світло на реальності ШІ поза блиском та хайпом.
ЧАП
The source of the article is from the blog dk1250.com