Высокопоставленный чиновник Национального управления по безопасности США (NSA) раскрыл, что государственные хакеры и преступные организации используют генеративный ИИ для осуществления своих кибератак. Тем не менее, похоже, что американские спецслужбы не бездействуют, так как они также используют технологии искусственного интеллекта для обнаружения вредоносной деятельности.
По словам Роба Джойса, директора кибербезопасности NSA, преступники и операторы спецслужб пользуются популярными моделями генеративного ИИ от крупных компаний. Это принятие ИИ позволило им усилить свои возможности и проникнуть в различные платформы.
С другой стороны, Джойс подчеркнул, что ИИ, машинное обучение и глубокое обучение значительно способствуют выявлению и предотвращению вредоносной деятельности. Эти технологии упрощают задачу командам по кибербезопасности в выявлении и ответе на угрозы эффективно.
Хотя Джойс не раскрыл конкретных случаев кибератак, основанных на ИИ, и не связал их с каким-либо конкретным государством или правительством, он упомянул о недавних попытках Китая нацелиться на критическую инфраструктуру США. Предполагается, что эти попытки сделаны в преддверии возможного нападения на Тайвань и иллюстрируют, как технологии ИИ могут обнаруживать вредоносную деятельность и предоставлять американским спецслужбам важное преимущество.
Согласно Джойсу, хакеры, поддерживаемые Китаем, используют необычные методы, не полагаясь на традиционные вредоносные программы. Вместо этого они эксплуатируют уязвимости и ошибки в реализации, чтобы получить несанкционированный доступ к сетям, в то время как они выглядят законными. В этом контексте машинное обучение, ИИ и большие данные играют ключевую роль в выявлении аномального поведения аккаунтов и отличении их от законных операторов.
Появление генеративных инструментов ИИ, способных создавать высококачественный компьютерный контент, принесло дополнительные вызовы в области кибербезопасности. Комментарии Джойса раскрывают, как злоумышленники используют ИИ для усовершенствования своих операций, начиная от создания сложных фишинговых электронных писем до эксплуатации технических уязвимостей, которые в обычных условиях были бы вне их компетенции.
Хотя американское правительство признает мощь ИИ, предпринимаются шаги для минимизации рисков, связанных с этой технологией. Администрация Байдена выпустила указ о создании стандартов безопасности и улучшении мер предосторожности против злоупотреблений и ошибок ИИ. Федеральная торговая комиссия также выделила интересы, связанные с возможным злоупотреблением ИИ для мошеннических действий.
В постоянно развивающемся мире кибербезопасности ИИ остается двуручным мечом. И хотя он позволяет разведывательным агентствам выявлять и противодействовать киберугрозам, он также предоставляет злонамеренным лицам и группам новые инструменты и стратегии для осуществления кибератак. По мере развития ИИ крайне важно, чтобы правительство и заинтересованные стороны в индустрии приоритетизировали постоянные исследования, сотрудничество и разработку надежных механизмов защиты, чтобы оставаться на шаг впереди в арене кибервоенных действий.
The source of the article is from the blog papodemusica.com