В мире искусственного интеллекта (ИИ) всегда было множество шумихи вокруг генеративных технологий. Тем не менее, становится очевидным, что все это возбуждение может быть ошибочным, и некоторые компании понимают это сейчас на практике.
Один из основных недостатков больших моделей языка, таких как ChatGPT, заключается в их склонности к галлюцинациям и распространению дезинформации. Это привело к обвинениям в плагиате в отношении чат-ботов и создателей изображений на ИИ, что причинило урон репутации компаниям, полагающимся на эти технологии. Более того, высокий уровень энергопотребления, необходимый для работы аппаратного обеспечения генеративного ИИ, является значительной проблемой для окружающей среды.
Однако, возможно, самой значительной проблемой является надежность этой технологии. Согласно исследователю по ИИ Гари Маркусу, компании понимают, что не могут полагаться на работу генеративного ИИ с надлежащей стабильностью. Многие компании выразили разочарование в производительности технологии и ее неспособности надежно внедряться у клиентов.
Одна компания в Великобритании вынуждена была отключить своего чат-бота, когда тот начал использовать оскорбительный язык и оскорблять клиентов. Аналогично продавец автомобилей в Калифорнии вынужден был принять меры, когда его автопродавец, работающий на ChatGPT, начал предлагать автомобили всего за 1 доллар. Эти случаи подчеркивают ненадежность и потенциальные риски, связанные с чрезмерной зависимостью от генеративного ИИ.
Проблема заключается в том, что эти модели ИИ не просто извлекают информацию, они ее синтезируют. Без соответствующих мер предосторожности и руководящих принципов эти модели могут создавать ложную или вводящую в заблуждение информацию на основе данных, на которых они обучены. Этот недостаток различения представляет собой серьезное испытание для компаний, стремящихся использовать генеративный ИИ в своих продуктах.
Учитывая эти проблемы, некоторые эксперты проводят параллели между индустрией ИИ и предыдущими пузырями, такими как криптовалюты и стартапы Dot Com. Несбыточные прогнозы того, что ИИ станет отраслью на триллион долларов в течение следующего десятилетия, вызывают опасения о нереалистичных ожиданиях. Кроме того, скептики сомневаются в том, сможет ли технология развиваться достаточно быстро, чтобы оправдать существующее возбуждение, что потенциально может привести к периоду стагнации.
Инвесторы, вложившие крупные суммы в индустрию ИИ, могут стать нетерпеливыми, если не увидят ожидаемой отдачи в короткие сроки. Хотя ИИ и ИГИ (Искусственный Общий Интеллект) не являются невозможными, текущее состояние технологии генеративного ИИ представляет собой множество проблем, которые не могут быть легко решены.
Для компаний и исследователей одинаково важно подходить к ИИ с реалистичной перспективой и учитывать ограничения и риски, связанные с генеративным ИИ. Только признавая эти вызовы, мы можем разрабатывать и внедрять технологии ИИ, которые будут надежны, этичны и полезны для общества.
ЧаВо
The source of the article is from the blog elperiodicodearanjuez.es