В мире искусственного интеллекта (ИИ), скрыто от посторонних глаз комплексная реальность, привлекающая миллионы человеческих работников, действующих в тайне. Это позволяет внести свежий взгляд на его эффективность и деятельность. Новый отчет исследовательского журнала «Информ» пролили свет на значимость этих работников, особенно в контексте технологии Just Walk Out от Amazon. Эта технология, позволяющая клиентам удобно брать продукты из магазинов и выходить без традиционных кассов, оперировала с помощью более чем 1000 индийских сотрудников, которые тщательно просматривали и помечали видео, обеспечивая точные покупки без очередей.
В то время как Amazon на своем сайте подчеркивает использование «компьютерного зрения, смешения сенсоров и глубокого обучения» в Just Walk Out, он не упоминает об этих контрактных работниках. На запросы об этом Amazon пояснил, что эти работники просто размечали видео для улучшения системы и только утверждали малую долю походов за покупками, когда ИИ-системы не могли определить покупку.
Это откровение от Amazon служит ярким напоминанием о том, что эффективная работа «искусственного интеллекта» часто зависит от наличия человеческих смотрителей. Фактически у самой Amazon есть целое подразделение под названием Amazon Turk, которое помогает другим компаниям в обучении и эксплуатации их собственных ИИ-систем. Бесчисленное количество фрилансеров по всему миру идентифицируют себя как «M-Turkers», и подразделение получило свое название в честь известной истории о Механическом турке, шахматной автомате XVIII века, скрытно управляемом человеком.
Численность людей, трудящихся в тени кажущейся передовой технологии искусственного интеллекта, простирается далеко за пределы случая с Amazon. Многие другие компаний не раскрывали свою зависимость от человеческого участия в развитии их, по сообщениям, передовых ИИ-систем. Facebook, например, закрыл своего текстового виртуального ассистента M в 2018 году после двух лет работы, в течение которых человеческие работники широко использовались для обучения и работы в его основной ИИ-системе. Точно так же стартап с названием x.ai, который похвастался «ИИ-персональным ассистентом» для назначения встреч, был вынужден прекратить деятельность в 2021 году, так как столкнулся с трудностями в достижении истинной алгоритмической автономности.
Другим примером является британский стартап Builder.ai, который рекламировал программное обеспечение ИИ, способное создавать приложения, но в значительной степени полагался на программистов в Индии и в других местах для выполнения этой задачи, как сообщал The Wall Street Journal.
Эта реальность подчеркивает тонкую грань между ожиданием замены алгоритмов и использованием человеческих работников как временного решения, часто оправдываемого маркетологами под предлогом последующей автоматизации. Так называемый «псевдо-ИИ» или «ИИ-перевод» был распространен даже до недавнего взрывного роста генеративных технологий ИИ.
Например, фирма West Monroe Partners, специализирующаяся на предпродажной проверке для фирм частного капитала, исследовала маркетинговые материалы, предоставленные 40 американскими фирмами, предлагаемыми к продаже в 2019 году. Анализ показал, что эти компании преувеличивали возможности своих технологий в сфере ИИ и машинного обучения в среднем на более чем 30%. Похожим образом MMC, венчурная фирма с некапиталом, обнаружила, что из 2830 европейских стартапов, классифицированных как компании ИИ, только 1580 действительно соответствовали этому описанию.
Один из очевидных вопросов, возникающих от участия людей в ИИ, — это потенциальное нарушение конфиденциальности. Использование Amazon «контролируемого обучения» в своих ИИ-системах послужило поводом для тысяч контрактников прослушивать команды Alexa. Однако распространение недостоверных утверждений в индустрии ИИ также сопряжено с рисками.
К счастью, регуляторы активно занимаются этим вопросом и требуют отвечать компании за искажение утверждений об ИИ. Исмаил Рамзи, прокурор Северного округа Калифорнии, недавно объявил о своем намерении направить усилия на нацеленных на обман венчурных инвесторов стартапов до их выхода на рынок. Кроме того, в феврале председатель Комиссии по ценным бумагам и биржам США (SEC) Гари Генслер предупредил о том, что «ИИ-стирка» может нарушать законы о ценных бумагах. Впоследствии две инвестиционные фирмы заключили соглашения об урегулировании на сумму 400 000 долларов с SEC за преувеличение использования ИИ.
В случаях, когда системы ИИ адекватно представлены, важно признать существование огромной отрасли скрытых работников, поддерживающих многие высокотехнологичные системы ИИ, которые часто получают минимальную компенсацию. Уважаемые ученые, такие как Кейт Кроуфорд и авторы, такие как Madhumita’s Code Dependent, подробно документировали это явление, проливая свет на реальности ИИ за блеском и шумом.
Часто задаваемые вопросы
Q: Что такое «ИИ-стирка»?
A: «ИИ-стирка» — это практика использования хайпа и неопределенности вокруг ИИ для преувеличения возможностей технологии, которая не полностью зависит от ИИ.
Q: Как регуляторы разбираются с недостоверными утверждениями об ИИ?
A: Регуляторы, такие как прокурор Северного округа Калифорнии и председатель SEC, активно работают по выявлению и наказанию стартапов и компаний, вводящих инвесторов в заблуждение относительно их использования и возможностей ИИ.
Q: Какие примеры компаний, полагающихся на человеческий труд для задач ИИ, существуют?
A: Среди таких компаний: Facebook, x.ai, Builder.ai — они полагались на человеческих работников вместо полностью автономных алгоритмов для задач, связанных с их системами ИИ.
Источники:
— The Information — [источник_ссылка_1]
— Wall Street Journal — [источник_ссылка_2]
— Code Dependent by Madhumita — [источник_ссылка_3]
Помимо откровений о зависимости Amazon от человеческих работников для его технологии ИИ, имеет смысл понимать более широкий ландшафт отрасли, прогнозы рынка и ключевые вопросы, связанные с индустрией и ее продуктами.
Отрасль искусственного интеллекта испытывает значительный рост и ожидается, что продолжит расширение в грядущие годы. Исследовательская фирма Tractica прогнозирует, что доходы от программного обеспечения ИИ достигнут 105,8 миллиарда долларов к 2025 году, что значительное увеличение по сравнению с 9,5 миллиарда долларов в 2018 году. Этот рост обусловлен увеличением принятия ИИ в различных секторах, включая здравоохранение, финансы, розничную торговлю и производство.
Однако использование человеческого труда в системах ИИ вызывает этические и прозрачностные вопросы. Многие компании, включая Amazon, Facebook, x.ai и Builder.ai, были обвинены в замалчивании степени человеческого участия в их ИИ-операциях. Этот недостаток прозрачности не только искажает возможности систем ИИ, но и вызывает опасения о конфиденциальности, как в случае подрядчиков Amazon, слушающих команды Alexa.
Регуляторы принимают. . .
The source of the article is from the blog foodnext.nl