Искусственный интеллект (ИИ) требует более ясных протоколов безопасности, предупреждает исследование, проведенное после всестороннего изучения экспертами из 30 стран. Эксперты высказывают опасения о том, что создатели систем ИИ имеют ограниченное понимание работы своих систем, и значительное количество научных знаний по этому вопросу все еще остаются замкнутыми.
Панель критикует компании, занимающиеся ИИ, за недостаточное предоставление доступа к инспекторам безопасности. Критика высказалась после того, как был заказан первый международный научный доклад о повышении безопасности ИИ Великобританией во время саммита в Блетчли-парке в ноябре. Организация Объединенных Наций и Европейский союз поддержали это начинание, сделав обзор всей текущей научной литературы о ИИ, чтобы представить прозрачную оценку состояния безопасности ИИ.
Их выводы появились перед важным саммитом по безопасности ИИ в Южной Корее. Доклад сделал жесткое заключение, утверждая, что не существует известных методов, обеспечивающих надежные гарантии против потенциальных вредов, связанных с универсальным ИИ.
Пионер ИИ Джошуа Бенджио, председатель панели, выражает свою тревогу по поводу результатов и недостаточного понимания технологии. В диалоге с «Times» он метафорически описал текущую ситуацию как глядя сквозь туман на мерцающие возможности, предлагая, что необходимы существенные инвестиции, чтобы пробиться сквозь неопределенность и воспользоваться перспективным потенциалом ИИ.
Ключевые вопросы и ответы:
— Почему надежные средства защиты для систем ИИ важны?
Надежные средства защиты важны для того, чтобы обеспечить работу систем ИИ в заданных параметрах и избежать непреднамеренного ущерба. Они особенно важны для универсального ИИ, который может применяться в различных областях, зачастую имея больший потенциал для воздействия.
— С какими проблемами сталкиваются разработчики ИИ при создании надежных средств защиты?
Разработчики ИИ сталкиваются с проблемами, такими как сложность алгоритмов ИИ, понимание возникающего поведения и выравнивание систем ИИ с человеческими ценностями. Также отсутствует комплексная регуляторная база, предоставляющая руководство по стандартам безопасности ИИ.
— Какой вред может причинить ненадежный ИИ?
Ненадежный ИИ может причинить вред, такой как нарушение конфиденциальности, дискриминация, манипуляция, угрозы безопасности, экономические потрясения и, в экстремальных случаях, физический вред от автономных систем, таких как дроны или самоуправляемые автомобили.
Ключевые проблемы и конфликты:
Одной из основных проблем является сложность предсказания и контроля поведения сложных систем ИИ, поскольку они могут эволюционировать способами, полностью не понятными создателям. Это может привести к непреднамеренным и, возможно, вредным последствиям. Другой проблемой является разработка этических руководящих принципов и правовых рамок, которые могли бы идти нога в ногу с быстрым развитием технологий ИИ. Существует также спор вокруг прозрачности компаний по ИИ, поскольку многие из них не предоставляют достаточного доступа или детального понимания их систем ИИ, что делает внешний контроль затруднительным.
Преимущества и недостатки надежных средств защиты в ИИ:
Преимущества:
— Укрепление доверия к системам и технологиям ИИ.
— Предотвращение злоупотреблений и неожиданных последствий от ИИ.
— Содействие ответственному развитию и внедрению ИИ.
— Стимулирование международного сотрудничества и стандартизации в области безопасности ИИ.
Недостатки:
— Строгие меры защиты могут ограничить инновации и замедлить развитие новых приложений ИИ.
— Введение слишком строгих регуляций может привести к конкурентным недостаткам для регулируемых отраслей или стран.
— Разработка и внедрение средств защиты могут быть затратными и затянутыми во времени.
Соответствующие учреждения и органы, занимающиеся политикой ИИ, включают Организацию Объединенных Наций и Европейский союз, поддерживающие инициативы по улучшению стандартов и практик безопасности ИИ. Тем временем лидеры отрасли и заинтересованные стороны ожидают дальнейших разработок с предстоящего саммита по безопасности ИИ для получения дополнительных руководящих принципов по эффективной реализации средств защиты.