Гугл DeepMind исследует использование искусственного интеллекта в киберзащите
Для того чтобы понять, может ли искусственный интеллект помочь в предотвращении кибератак, Google начал исследовательский эксперимент. Используя свои высокотехнологичные методы искусственного интеллекта, главный исследователь DeepMind Эли Бурсцтейн подчеркнул на конференции RSA в Сан-Франциско, как современные достижения в области искусственного интеллекта помогают компаниям отражать вредоносные киберугрозы.
Множество вредоносных документов, перехваченных Gmail (около 70% всего заблокированного контента), использует комбинацию текста и графики, включая официальные логотипы компаний. Этот прием направлен на обман пользователей, подражая легитимным сообщениям.
Успешность искусственного интеллекта в выявлении попыток фишинга
Исследовательское вторжение Google использовала чат-бот Gemini Pro для выявления вредоносных документов с впечатляющим уровнем обнаружения. Хотя Gemini Pro успешно определил 91% угроз фишинга, он немного уступил специализированной программе искусственного интеллекта, обученной специально для обнаружения фишинга, которая продемонстрировала уровень успешности в 99% и работала с повышенной эффективностью.
Однако потенциал Gemini Pro превосходит просто выявление угроз. Его сила заключается в объяснении того, почему определенные фишинговые сообщения считаются зловредными. Например, анализируя обманчивый PDF, выдававший себя за электронное письмо от PayPal, искусственный интеллект Гугла проницательно заметил расхождения в контактной информации и использование срочного языка, характерного для мошенников.
Несмотря на продемонстрированные возможности, Google остается в экспериментальной фазе. Опасения возникают из-за значительной вычислительной мощности, необходимой для функционирования системы искусственного интеллекта, такой как Gemini Pro на масштабе такого проекта, как Gmail.
Инновации в мерах по кибербезопасности с помощью искусственного интеллекта
Размышляя о будущих возможностях, Google также исследует возможность применения генетического искусственного интеллекта для обнаружения и автоматической коррекции уязвимостей в программном обеспечении. Однако, LLM сталкиваются с проблемами в выявлении этих уязвимостей из-за «шумных» и обширных данных для обучения, что затрудняет точное выявление уязвимостей в программном обеспечении.
Внутренние эксперименты Google показали ограниченность LLM, с лишь 15% успешности в исправлении ошибок в программном обеспечении C++. В некоторых случаях модели даже внедряли новые проблемы.
Тем не менее, интеграция искусственного интеллекта в область кибербезопасности выглядит многообещающей, как показало внутреннее испытание Гугла, которое показало на 51% сокращение времени на составление отчетов о реагировании на происшествия при помощи черновиков, созданных искусственным интеллектом.
Непрерывные усилия от Google в области применения искусственного интеллекта в операциях по киберзащите демонстрируют, как передовые технологии могут оснащать людей, улучшать эффективность и потенциально революционизировать меры защиты от киберугроз.
Ключевые вопросы и ответы
1. На сколько эффективен искусственный интеллект в выявлении попыток фишинга?
Искусственный интеллект показал себя очень эффективным в обнаружении фишинга, с специализированные программы искусственного интеллекта, показавших уровень успешности вплоть до 99%.
2. Каковы вызовы использования искусственного интеллекта в кибербезопасности, в частности при изучении уязвимостей кода?
Одной из основных проблем является наличие «шумных» данных в обучающих наборах, что может затруднить точное обнаружение уязвимостей в программном обеспечении большими языковыми моделями (LLM). ЛЛМ иногда показывают низкие уровни успешности и могут вводить новые ошибки при попытке исправления уязвимостей.
3. Может ли искусственный интеллект улучшить эффективность в задачах, связанных с кибербезопасностью?
Да, искусственный интеллект может значительно повысить эффективность; как это показано на примере испытания Гугла, черновики отчетов, сгенерированные искусственным интеллектом, привели к сокращению времени на составление отчетов о реагировании на происшествия на 51%.
Ключевые вызовы и противоречия
— Вычислительные ресурсы: Запуск обширных систем искусственного интеллекта, таких как Gemini Pro, требует огромной вычислительной мощности, что может быть ограничением для расширения решений.
— Точность и надежность: Хотя искусственный интеллект показывает высокую эффективность в обнаружении угроз, он далек от идеала. Важно, чтобы системы искусственного интеллекта были точны и не порождали ложные срабатывания или упускали реальные угрозы.
— Этические и проблемы конфиденциальности: Использование искусственного интеллекта в кибербезопасности может вызвать этические и проблемы конфиденциальности, особенно в отношении обработки и анализа чувствительных данных искусственными системами.
Преимущества и недостатки
Преимущества:
— Эффективность: Системы искусственного интеллекта могут обрабатывать огромные объемы данных намного быстрее, чем это способны делать люди, ускоряя процесс обнаружения угроз кибербезопасности и реагирования на них.
— Превентивная защита: Искусственный интеллект может предсказывать и обнаруживать новые виды вредоносных программ или атак с помощью машинного обучения, предлагая превентивную защиту вместо реактивной.
— Глубокий анализ: Искусственный интеллект может предоставить инсайты в тактику и методы, используемые кибератакующими, что потенциально поможет улучшить общие стратегии безопасности.
Недостатки:
— Требовательность к ресурсам: Системы искусственного интеллекта требуют мощных вычислительных ресурсов, что может быть затратным и энергозатратным.
— Сложность обучения: Обучение систем искусственного интеллекта для киберзащиты является сложным и требует качественных, обширных наборов данных, которые часто сложно составить.
— Риск излишней зависимости: Излишняя зависимость от искусственного интеллекта может привести к пренебрежению человеческого аспекта кибербезопасности, который является важным для принятия решений и управления тонкими или контекстно-специфическими угрозами.
Связанные ссылки
Для получения дополнительной информации о технологиях, связанных с Гуглом и достижениях в области искусственного интеллекта, вы можете посетить основную страницу Google AI по ссылке Google AI и официальный сайт DeepMind по ссылке DeepMind. Кроме того, для тех, кто интересуется ресурсами в области кибербезопасности, рекомендуется посетить главную страницу конференции RSA по ссылке RSA Conference. Все предоставленные URL-адреса проверены на правильную ссылку на основной домен.