В условиях все более напряженной геополитической обстановки внедрение систем искусственного интеллекта (ИИ) в национальные системы безопасности становится ключевым направлением для многих стран. Эрик Шмидт, бывший исполнительный директор Google и участник Национальной комиссии по искусственному интеллекту в США, недавно поделился взглядами на военную эволюцию ИИ. Обладая опытом сотрудничества с военно-промышленным комплексом США, Шмидт предвидит будущее, где отдельные суперкомпьютеры будут обладать беспрецедентными «автономными изобретательными» способностями, превосходящими возможности общественности и конкурентов.
Ожидается, что эти передовые машины будут находиться в безопасном месте возле военных баз, окруженные защитными мерами, такими как колючая проволока и пулеметы, и работать на ядерных источниках энергии. Шмидт, с его значительным участием в оборонных стартапах и крупных финансовых интересах в компании Alphabet, материнской компании Google, придает серьезный авторитет этим технологическим и стратегическим направлениям.
Концепция военного будущего с ИИ не совсем спекулятивна; самые современные американские суперкомпьютеры, находящиеся в Национальных лабораториях Департамента энергетики, уже применяют строгие меры безопасности. Шмидт предлагает принять аналогичные протоколы, аналогичные оценкам биологических угроз, для классификации и управления рисками, связанными с этими высокопроизводительными компьютерами.
Подчеркивая необходимость контроля, Шмидт выступает за установление международных соглашений по установлению стандартов безопасности для вычислительных систем, аналогичных тем, что используются в научных лабораториях. Эта защитная позиция к потенциалу ИИ была заметна в начале 2024 года, когда Microsoft объявил о развертывании интернет-изолированной генеративной модели ИИ для служб разведки США, последовав обновлению своего центра обработки данных ИИ в штате Айова. Этот шаг напоминает ранние прогнозы о переходе от суперкомпьютеров экзафлопной эпохи к решениям на основе облачных технологий.
В представленном Шмидтом прогнозируемом будущем слияние ИИ, национальной безопасности и военной инфраструктуры вероятно перестроит глобальный технологический ландшафт. Здесь управление и развертывание суперкомпьютеров готовится стать критическим боевым полем.
Основные проблемы и споры:
Одной из наиболее значительных проблем, связанных с военной задействованностью ИИ, являются этические соображения вокруг систем автономного оружия. Эти системы могут быть способны принимать жизненно важные решения без вмешательства человека, возбуждая серьезные моральные и юридические вопросы.
Еще одной ключевой проблемой является гонка вооружений в области ИИ. Возможность значительного прогресса в области военного ИИ одной нацией может побудить другие ускорить свои собственные программы, что может привести к увеличению глобальной нестабильности.
Также важна проблема кибербезопасности. Поскольку системы ИИ становятся все более важными для военных операций, риск кибератак со стороны государств и негосударственных акторов увеличивается. Эти атаки могут направляться на отключение критически важных систем ИИ, что приведет к значительным нарушениям безопасности или даже к случайному активированию военных ответных реакций.
Контроверзии также возникают из-за двойного использования технологий ИИ, которые могут применяться как для гражданских, так и для военных целей. Это двойное использование затрудняет международное регулирование и ставит задачу перед сохранением прозрачности и предотвращением эскалации в военных возможностях.
Преимущества:
— Повышение эффективности: Системы ИИ могут обрабатывать огромные объемы данных быстрее, чем люди, обеспечивая военному персоналу своевременную и точную информацию для принятия решений.
— Расширенные возможности: ИИ может улучшить точность и эффективность систем оружия, что приведет к увеличению военных возможностей без необходимости увеличивать численность вооруженных сил.
— Лучшая защита сил: ИИ может уменьшить число необходимых солдат для выполнения опасных задач, что приведет к снижению числа потерь в конфликтных ситуациях.
Недостатки:
— Отсутствие ответственности: Если система ИИ автономно принимает решение, которое приводит к непредвиденному вреду, неясно, кто — если кто-то — будет нести ответственность.
— Непреднамеренная эскалация: Системы ИИ могут реагировать на воспринятые угрозы быстрее, чем люди могут вмешаться, что потенциально может непреднамеренно усложнить конфликт.
— Технологическая зависимость: Чрезмерная релиантность на системы ИИ может привести к уязвимостям, особенно если противники разработают способы эксплуатации или выключения этих систем.
Связанные ссылки:
Для более подробного изучения общего контекста безопасности ИИ и военных последствий рассмотрите посещение следующих основных доменных ссылок:
— RAND Corporation
— Center for Strategic and International Studies (CSIS)
— U.S. Department of Defense
Обратите внимание, что это ссылки только на основной домен и не на конкретные подстраницы. Убедитесь в проверке каждого URL перед доступом к ним.