Виявлення та припинення кібероперацій, здійснених американськими противниками з використанням створювального штучного інтелекту (ШІ), на усіма зірку Microsoft виколихнуло наявність нової загрози в сфері кібербезпеки. Хоча техніки, що використовувалися цими загрозними групами, не були новаторськими, вони продемонстрували потенціал великомасштабних моделей для значного посилення їх атакуючих можливостей.
Співпрацюючи зі своїм партнером OpenAI, Microsoft виявила випадки, коли Іран, Північна Корея, Китай та Росія намагались зловживати створювальним ШІ для проведення атак кіберопераційного характеру. Особливу увагу Microsoft звернула на значимість публічного розкриття цих атак, навіть якщо вони були на початкових етапах або були незначними кроками. Метою було підвищення свідомості про розширене використання великомасштабних мовних моделей геополітичними суперниками для проникнення в мережі та проведення впливових операцій.
Великомасштабні мовні моделі, такі як ChatGPT від OpenAI, значно змінили гру «кішка-мишка» в кібербезпеці. Початково машинне навчання використовувалось кібербезпековими компаніями для оборонних цілей, але тепер злочинці та атакуючі хакери також прийняли його за своє. Значний інвестиційний внесок Microsoft в OpenAI підкреслює значимість цього розвитку.
Шляхом припинення кібердіяльності різних противницьких груп Microsoft виявила їхнє зловживання створювальним ШІ для різних цілей. Наприклад, група Kimsuky з Північної Кореї використовувала моделі для дослідження відомств зовнішньої політики та створення контенту для кампаній спірфішингу. Революційна гвардія Ірану використовувала великомасштабні мовні моделі для підвищення прийомів соціального інженерингу, усунення помилок програмного забезпечення та вивчення способів ухилення виявлення в компрометованих мережах.
Російська військова частина GRU «Фансі Беар» зосередилася на дослідженні технологій спутникового зв’язку та радарів, які мають відношення до конфлікту в Україні. Тимчасово, китайські групи кібершпигунства Aquatic Panda та Maverick Panda спілкувалися з моделями для дослідження того, як великомасштабні мовні моделі можуть підсилити їхні технічні операції та збирати інформацію з різних чутливих тем.
Виявлення та припинення кібероперацій противників показують необхідність збільшення бджільності та заходів безпеки у зразку розвитку технологій ШІ. З плином часу ШІ та великомасштабні мовні моделі продовжують розвиватися, і як оборонні, так і атакуючі суб’єкти повинні адаптувати свої стратегії, щоб пом’якшити потенційні ризики, пов’язані з цією зростаючою загрозою.
Часто задавані питання:
The source of the article is from the blog enp.gr