Dolazak prijetnji generiran AI-jem
Krajolik cyber prijetnji mijenja se s porastom generativne umjetne inteligencije (AI). Stručnjaci predviđaju porast proizvodnje phishing emailova i generiranje zlonamjernog softvera, povezujući ovaj porast s mogućnostima generativne AI. Taj se trend odražava u studijama diljem svijeta gdje je primjetan porast volumena napada nakon pojave takvih AI tehnologija.
Eskalacija phishing taktika
Prema izvješću tvrtke Enea, švedske tvrtke specijalizirane za komunikaciju i sigurnosni softver, razdoblje nakon uvođenja ChatGPT-a u studenom 2022. godine vidjelo je porast phishing napada – uključujući smishing i vishing – više od deset puta. Vishing, skraćeno za “voice phishing”, odnosi se na prevare koje se provode telefonom.
Kontinuirana evolucija AI prijetnji
S porastom broja napada, potencijalna šteta koju mogu prouzročiti se množi. Trenutna istraživanja pokazuju da phishing emailovi koje izrađuju ljudi su sofisticiraniji od onih generiranih pomoću AI. Međutim, što budućnost nosi ostaje nejasno. AI može neumorno raditi, unaprijeđujući svoje rezultate tijekom vremena i omogućavajući masovnu distribuciju sve složenijih phishing emailova. Nije poznato u kojoj mjeri su već u upotrebi AI generirani emailovi, no vjerojatno je da napadači koriste AI kako bi povećali broj svojih napada.
Utrka u cyber sigurnosti
U cyber sigurnosti, napad ima često prednost, budući da napadači obično vode s novim strategijama prisiljavajući branitelje na reaktivno prilagođavanje. Jedna prednost za napadače je mogućnost korištenja generativnih AI bez etičkih ograničenja, često nazvanih “zaštitne ograde”, što im daje agresivnu prednost u njihovim napadima.
Potreba za strateškom cyber obranom
S druge strane, branitelji su ograničeni na korištenje AI s zaštitnim ogradama, što stavlja korisnička poduzeća u nepovoljan položaj. Važno je da tvrtke prepoznaju početak ere “generativne AI protiv generativne AI” i da prilagode svoje cyber obrane u skladu s time. Nadalje, društveni konsenzus o reguliranju generativne AI je ključan. Sa trenutnim disbalansom, hitno je potrebno raspravljati o tome može li ograničena AI adekvatno obraniti protiv zloupotrebe neograničene AI i trebaju li se propisi ponovno razmotriti. Yu Arai iz NTT Data Grupe, izvršni sigurnosni analitičar, sugerira da je ovaj ključni pregled neophodan za sigurnije digitalno okruženje.
Članak govori o vezi između pojave generativne AI i porasta cyber napada, s fokusom na phishing, evoluciju AI-generiranih cyber prijetnji, utrku u cyber sigurnosti i potrebu za strateškom cyber obranom.
Bitna pitanja i odgovori:
P: Kako generativna AI utječe na porast phishing napada?
Č: Generativna AI može automatizirati izradu phishing emailova, čime ti napadi postaju razmjerniji. Uz pomoć AI-a, napadači mogu brzo generirati realistične i personalizirane phishing poruke što može rezultirati značajnim porastom volumena napada.
P: Koje vrste phishing napada se spominju kao porasle zbog AI-a?
Č: U članku se spominju smishing (SMS phishing) i vishing (voice phishing), oba su navodno porasla više od deset puta od uvođenja ChatGPT-a.
P: Koja je izazov za cyber obranu protiv AI-generiranih prijetnji?
Č: Ključni izazov je potreba da se stalno prilagode evoluirajućim sposobnostima AI-a za generiranje sofisticiranih phishing emailova i drugih cyber prijetnji. S obzirom da se AI ne umara i može se kontinuirano poboljšavati, obrane moraju biti proaktivne i uvijek evoluirati.
P: Zašto napadači mogu imati prednost u upotrebi generativne AI?
Č: Napadači mogu koristiti generativnu AI bez etičkih ograničenja koja se obično stavljaju na AI koji se koristi u obrambene svrhe. To nedostatak “zaštitnih ograda” može dati napadačima agresivnu i neograničenu pristup AI sposobnostima.
P: Zašto je potrebna strateška cyber obrana u eri generativne AI?
Č: Budući da napadači potencijalno koriste neograničenu AI, tvrtke i ostale korisničke tvrtke trebaju razviti cyber obrane koje mogu učinkovito predvidjeti i suprotstaviti se AI-generiranim prijetnjama.
Ključni izazovi ili kontroverze:
– Regulacija: Postoji značajna rasprava o tome kako regulirati upotrebu generativne AI kako bi se spriječila zloupotreba, pritom omogućavajući inovacije i korisne primjene.
– Etička ograničenja: Određivanje prikladnih “zaštitnih ograda” za AI, posebno kada bi ova ograničenja mogla staviti obrambenu AI u nepovoljan položaj u usporedbi s ofenzivnom AI.
– Utrka u tehnološkoj sigurnosti: Osiguravanje da se obrambeni sustavi mogu držati korak s tempom kojim napadači koriste generativne AI tehnologije.
Prednosti i nedostaci:
Prednosti:
– Povećana učinkovitost: Generativna AI može pomoći automatizirati zadatke, što rezultira većom učinkovitošću u cyber operacijama kako u ofenzivi tako i u obrani.
– Razmjerljivost: Napadači s AI mogu povećati razmjere napada na neviđene razine, izazivajući tradicionalne sigurnosne mjere.
Nedostaci:
– Veći volumen napada: Isti razmjerljivost koja je prednost također može rezultirati većim volumenom cyber napada koji mogu preplaviti obrambene sustave.
– Povećana sofisticiranost: Generativna AI može kreirati sofisticiranije i uvjerljivije napade, što ih može učiniti težima za otkrivanje i obranu.
– Zakonodavno kašnjenje: Kako se tehnologija AI brzo razvija, zakoni i etički standardi mogu kasniti, komplicirajući napore u borbi protiv AI-generiranih prijetnji.
Kako je navedeno u članku, jedan od koraka potrebnih za društvo je postizanje konsenzusa o reguliranju generativne AI, što uključuje značajne rasprave i suglasje među dionicima.
Za srodne informacije o ovoj temi, pouzdani izvori su:
– NTT Data
– Enea
Ovi linkovi omogućuju pristup uvidima i izvješćima tvrtki koje su uključene u cyber sigurnost, koje mogu pružiti dublje informacije o temi AI-generiranih cyber prijetnji i obranama.