Генеральный секретарь ООН Антониу Гутерриш выразил острой предупреждение о растущем риске ядерной войны, усугубляемом развитием искусственного интеллекта (ИИ). Во время видеообращения на ежегодном собрании Американской ассоциации контроля над вооружениями в Вашингтоне, Гутерриш выразил глубокие опасения относительно предкризисной ситуации человечества, сравнив ее с стоянием на краю пропасти.
Гутерриш призвал страны, обладающие ядерным оружием, серьезно выполнять свои обязанности по нераспространению и взаимному соглашению не быть первыми, кто использовал бы ядерное оружие в конфликте. Он подчеркнул важнейшую необходимость того, чтобы решения относительно использования ядерного оружия принимались людьми, а не машинами или алгоритмами.
Генеральный секретарь указал на качественную гонку вооружений между государствами, напоминающую эпоху Холодной войны, подчеркивая, что технологии, такие как ИИ, усиливают стоящие перед нами опасности. Его беспокойства не одиноки; задолго до этого США, Великобритания и Франция стояли на том, что человек должен оставаться под контролем при запуске ядерного оружия. Однако Россия и Китай до сих пор не высказали аналогичных заявлений.
Угроза подчеркивается тем, что как США, так и Россия имеют высокую готовность запустить свои межконтинентальные баллистические ракеты в течение минут. С учетом всегда присутствующего фона конфликта на Украине и периодических угроз со стороны России ведения ядерного конфликта, риск использования ИИ для усиления стратегий сдерживания ощутим.
Несмотря на то, что ядерный арсенал Китая относительно меньше, чем у США и России, он постоянно расширяется. Согласно Федерации американских ученых, ядерное оружие значительно сократилось по сравнению с пиком времен Холодной войны, однако мир все еще сталкивается с серьезными рисками.
Гутерриш выразил опасения относительно ослабления установленных соглашений о предотвращении использования, испытаний и распространения ядерного оружия. Как следует известно, действующий Договор Нового СТАРТ между США и Россией, ключевое соглашение, направленное на ограничение стратегических ядерных арсеналов, истек около 600 дней назад. Гутерриш призвал к повторному обязательству к таким соглашениям, чтобы избежать дистопического будущего.
Ключевые вопросы и ответы:
Почему Генеральный секретарь ООН беспокоится о роли ИИ в ядерном оружии?
Антониу Гутерриш беспокоится, потому что ИИ может ускорить процесс принятия решений, что потенциально может привести к более быстрым и менее обдуманным реакциям в сложных ситуациях, таких как ядерный конфликт. Возможность ИИ проанализировать огромное количество данных может ненамеренно усилить конфликты и недопонимания, вызвав ядерное эскалации.
В каком состоянии находятся международные соглашения по ядерному оружию?
Договор Нового СТАРТа, ограничивающий количество стратегических ядерных боеголовок для США и России, истек, хотя обе стороны согласились продлить его до 2026 года. Многие соглашения о нераспространении и разоружении, такие как Договор о нераспространении ядерного оружия (ДНЯ), находятся под напряжением из-за геополитических напряженностей и разногласий между ключевыми ядерными державами.
Основные проблемы, связанные с ИИ и ядерным оружием?
Основные проблемы включают в себя потенциал для ускорения эскалации конфликта, отсутствие прозрачности в процессах принятия решений ИИ и сложность установления международных норм и правил, регулирующих роль ИИ в стратегиях ядерного оружия. Кроме того, управление гонкой в области ИИ таким образом, чтобы это не привело к увеличенным рискам ядерного вовлечения.
Какие существуют противоречия?
Имеется дискуссия о том, улучшает ли ИИ или ослабляет действие сдерживания. Некоторые считают, что ИИ может сделать ядерные системы безопаснее, уменьшив человеческие ошибки, в то время как другие опасаются, что зависимость от ИИ может привести к непреднамеренным эскалациям или первым ударам. Кроме того, существует противоречие относительно различных точек зрения стран, обладающих ядерным оружием, относительно роли ИИ в ядерном командовании и управлении.
Преимущества и недостатки ИИ в угрозе ядерного оружия:
Преимущества:
— ИИ способен обрабатывать информацию и выявлять угрозы гораздо быстрее, чем люди.
— Потенциал для повышенной точности в определении реальных угроз по сравнению с ложными угрозами.
Недостатки:
— ИИ-системы могут допускать ошибки из-за недостаточных данных или алгоритмических предвзятостей, что приведет к катастрофическим решениям.
— Зависимость от ИИ может привести к потере человеческого суждения в сложных сценариях.
— Риски кибератак на ИИ-системы, которые могут привести к несанкционированным запускам.
Относительно этой темы обеспокоенность относительно того, что ИИ ускоряет ядерную угрозу, является частью более широкого обсуждения о военном использовании ИИ и автономных систем оружия. Эти технологии вызывают философские и этические вопросы о природе контроля над человеком в войне и возможности гонки в области ИИ между нациями.
Для получения дополнительной информации на тему как Организации Объединенных Наций ссылка, так и Федерация Американских Ученных ссылка предлагают ресурсы по контролю над ядерным оружием и нераспространению. Международная кампания по ликвидации ядерного оружия (МКЛЯО), получившая Нобелевскую Премию мира в 2017 году за усилия по запрещению ядерного оружия, также предоставляет контекст по этим вопросам на их сайте.
The source of the article is from the blog jomfruland.net