Штучний інтелект (AI) став двосудовим мечем у сфері безпеки інформаційних технологій. Навіть до випуску ChatGPT від OpenAI для громадськості у листопаді 2020 року, AI вже був важливим елементом у продуктах кібербезпеки, часто рекламованим за допомогою модних слів, таких як “GenAI” (Генеративний AI) або “ML” (Машинне навчання). Проте, кіберзлочинці не спокоються. Вони все частіше використовують техніки AI для вдосконалення своїх стратегій і створення вдосконалених кібератак.
Компанії з кібербезпеки спостерігають за зростанням несанкціонованого використання AI, включаючи розробку нелегальних великих мовних моделей (LLMs), які працюють без етичних обмежень платформ, таких як ChatGPT, що віддані генеруванню спаму та іншим коварним діям. За даними Trend Micro, кібербанди намагалися створити власні LLM, але переключилися на “відкривання” існуючих, щоб обійти заходи безпеки. Ця діяльність досягла точки, де тепер вони навіть пропонують послугу “Відкривання як сервіс”.
Девід Санчо з Trend Micro визначив, що експлуатація AI кіберзлочинцями попередує останній хвилі AI-хайпу. Він зазначив, що у підземних форумах обговорення серед кіберзлочинців докладно стежать за загальними ринковими тенденціями. Більше того, існуючі чат-боти часто перепризначені через так звані “обгорткові сервіси” для реалізації злочинних намірів—приклади чат-ботів зловісних назв, таких як FraudGPT та DarkGPT—імовірно використовуються для шахрайства або крадіжки особистої інформації.
Технологія Deepfake становить одну з найбільших загроз, яка може обдурити перевірку особи лише одним викраденим документом. Цю загрозу підтверджує доповідь від Bitdefender, яка дослідила ІТ-фахівців з питань кібербезпеки та виявила, що практично всі вважають еволюцію AI серйозною проблемою для їхніх організацій. Однак, існує розбіжність у рівнях довіри в різних країнах щодо вміння розрізняти deepfake від автентичного контенту.
Більшість компаній ще не включили AI в свою стратегію кібербезпеки, але звіт Hornet Security про AI-Security показує зростаючу усвідомленість небезпек з боку AI. Близько 75% тих, хто брав участь у опитуванні Hornet Security, вважають, що AI стане більш важливою у кібербезпеці протягом наступних п’яти років, при цьому третина очікує покращення своїх тактик безпеки.
Використання інструментів, що включають AI, розширюється на області, такі як реагування на інциденти та захист від шкідливих програм, що свідчить про краще захищене цифрове середовище у майбутньому. Хоча відсутня впевненість у те, що AI значно зменшить ручну працю для персоналу з кібербезпеки, багато згодні, що AI може допомогти у рівномірному розподілі кадрів та покращити існуючі можливості—особливо в секторах з великим попитом на фахівців з ІТ-безпеки. Кібератаки, які керуються AI, такі як боти, що маніпулюють онлайн-бронюваннями для прибутку, ілюструють складні загрози, на які організації повинні готуватися.
Зростаюча роль AI в кібербезпеці критична для розуміння еволюції глобальних цифрових загроз. Тут наведені додаткові факти, питання, відповіді, обговорення ключових викликів та суперечностей, а також оцінка переваг та недоліків, пов’язаних з “Зростаючою загрозою AI в кібербезпеці.”
AI-засновне виявлення загроз: Технології AI, такі як ML, можуть аналізувати великі набори даних ефективніше, ніж люди, дозволяючи виявлення складних кіберзагроз за допомогою розпізнавання патернів, які можуть залишитися непоміченими аналітиками.
Адаптивні кібератаки: Зі зростанням технологій AI зростає також адаптивність кібератак. Наприклад, противники можуть використовувати AI для динамічного адаптуються фішингові листи, щоб зробити їх переконливішими на основі відповідей цілі або для виявлення та використання уразливостей у системах набагато швидше, ніж раніше.
Робоче навантаження фахівців з кібербезпеки: Навіть якщо AI може автоматизувати деякі завдання з кібербезпеки, ця технологія також може створити додаткову роботу для фахівців з кібербезпеки, генеруючи помилкові сигнали, які вимагають ручного перегляду. Це великий обсяг сповіщень може призвести до втоми від сповіщень.
Ключові суперечності та виклики: Один з контроверсійних аспектів у сфері AI для кібербезпеки полягає у етичних наслідках оборонних та агресивних стратегій AI. З можливістю того, що AI може проводити агресивні кібероперації, необхідні етичні дискусії для визначення відповідального використання технологій AI як у урядових, так і приватних кібербезпечних заходах.
Переваги:
– Автоматизація рутина допомагає покращити ефективність у практиці кібербезпеки.
– AI може покращити здатності виявлення загроз, швидко аналізуючи великі обсяги даних.
– AI може допомогти подолати нестачу фахівців з кібербезпеки, підтримуючи перенавантажений персонал з кібербезпеки.
Недоліки:
– Розробка та впровадження ефективних заходів безпеки на основі AI вимагають значних ресурсів та експертності.
– Системи кіберзахисту AI можуть бути підірвані або обійдені вправними противниками.
– Демократизація AI може дозволити зловмисникам використовувати AI для шкідливих дій.
Найважливіші питання:
1. Як ми можемо забезпечити, що технологія AI залишиться в руках відповідальних сторін?
2. Які етичні рамки будуть керувати впровадженням AI в агресивні та оборонні кібероперації?
3. Як AI вплине на майбутню робочу ландшафт для фахівців з кібербезпеки?
Відповіді:
1. Через міцні міжнародні угоди, регулювання та етичні керівні принципи, разом із вдосконаленими заходами кібербезпеки для захисту технологій AI від несанкціонованого доступу.
2. Уряди, організації та спільнота з кібербезпеки повинні співпрацювати з метою встановлення етичних керівних принципів, регулюючих використання AI в кіберопераціях.
3. Хоча AI автоматизує деякі завдання в кібербезпеці, ймовірно, вона також створить нові ролі, спрямовані на розробку, підтримку та нагляд за системами AI.
Для тих, хто зацікавлений у подальшому дослідженні ролі AI у кібербезпеці з широкої перспективи, можуть бути корисні наступні ресурси:
OpenAI
Trend Micro
Bitdefender
Hornet Security
Вищезгадані посилання ведуть на основні домени відповідних згаданих у статті організацій, що дозволяє користувачам поглибитися у тему від надійних та значних учасників громадськості кібербезпеки.
The source of the article is from the blog elblog.pl