Вступление
Искусственный интеллект (ИИ) вызывает как восхищение, так и беспокойство среди экспертов и широкой публики. В то время как ИИ обладает огромными перспективами в различных областях, новый отчет, заказанный Государственным департаментом США, подчеркивает катастрофические риски, которые он несет для национальной безопасности. Отчет, основанный на обширных исследованиях и интервью с лидерами промышленности и экспертами, представляет четкое предупреждение о потенциальных опасностях, связанных с быстроразвивающимся ИИ. В данной статье рассматриваются поднимающиеся риски, настоятельная необходимость вмешательства и требования к регулирующим мерам.
Опасные риски
Согласно отчету, опубликованному Gladstone AI, передовые системы искусственного интеллекта имеют потенциал стать угрозой на уровне вымирания для человечества. Самым тревожным риском является возможное вооружение ИИ, приводящее к необратимому ущербу. Кроме того, отчет подчеркивает обеспокоенность в лабораториях по искусственному интеллекту из-за потери контроля над разрабатываемыми системами, что может иметь разрушительные последствия для глобальной безопасности.
Восхождение ИИ и искусственный общий интеллект (ИОИ) имеют потенциал дестабилизировать безопасность, аналогично введению ядерного оружия. Фактически, отчет предупреждает о «гонке вооружений» в области ИИ и повышенном риске конфликта, а также о потенциале катастрофических несчастных случаях масштабом, аналогичных оружию массового поражения.
Неотложное призыв к действию
Учитывая серьезность ситуации, отчет подчеркивает явную и неотложную необходимость вмешательства правительства США. Для эффективного противодействия этой угрозе предлагается несколько рекомендуемых шагов:
1. Создание нового агентства по ИИ: отчет призывает к созданию специализированного агентства для решения вызовов, стоящих перед ИИ. Это агентство сосредоточится на мониторинге, регулировании и обеспечении безопасности систем искусственного интеллекта.
2. Экстренные регулирующие меры безопасности: предлагается внедрение немедленных регулирующих мер для смягчения рисков, связанных с ИИ. Такие меры направлены на предотвращение ускорения развития ИИ за счет безопасности.
3. Ограничения на вычислительную мощность: отчет также предлагает установить ограничения на количество вычислительной мощности, используемой для обучения моделей ИИ. Этот контроль обеспечивает ответственное и надзираемое развитие систем искусственного интеллекта.
Проблемы безопасности и взгляды индустрии
Тревожные выводы отчета были результатом непрецедентного доступа, предоставленного Gladstone AI должностным лицам как из государственного, так и частного секторов. Технические и руководящие команды ведущих гигантов индустрии ИИ, таких как OpenAI, Google DeepMind, Facebook Meta и Anthropic, были проконсультированы в процессе исследования. Отчет показывает, что меры безопасности в системах передового искусственного интеллекта неадекватно решают проблемы национальной безопасности, которые они представляют.
Эта проблема усугубляется конкурентными давлениями, поскольку компании отдают предпочтение быстрому развитию ИИ перед обеспечением безопасности. Отчет предупреждает, что такой подход может привести к краже и вооружению передовыми системами ИИ против Соединенных Штатов.
Взгляд в будущее
Отчет добавляет себя к растущему списку предупреждений и тревог, высказываемых знаменитыми личностями в индустрии ИИ. Эксперты, такие как Илон Маск, председатель Федеральной комиссии по торговле Лина Хан и бывшие руководители OpenAI, все подчеркивают существенные риски, которые несет ИИ. Более того, сотрудники лабораторий по ИИ высказывают подобные опасения на личном уровне, включая опасения, что модели ИИ следующего поколения могут использоваться для манипулирования результатами выборов или подрыва демократии.
Одной из самых больших неопределенностей, связанных с ИИ, является скорость его развития, особенно ИОИ. ИОИ, который обладает способностями к обучению, подобными человеческим или даже превосходящими их, рассматривается как основной фактор катастрофического риска из-за потери контроля. Компании, такие как OpenAI, Google DeepMind, Anthropic и Nvidia, заявили, что ИОИ мог бы быть достигнут к 2028 году, хотя некоторые эксперты утверждают, что это может быть намного в дальней будущее.
Часто задаваемые вопросы (FAQ)
The source of the article is from the blog bitperfect.pe