U istraživanju koje je provelo Sveučilište Harvard, značajne sposobnosti velikih jezičnih modela (LLM-ova) u provođenju phishing napada dovedene su u prvi plan. Ovi modeli pokretani umjetnom inteligencijom mogu automatizirati cijeli proces phishinga, značajno smanjujući troškove za do 95%, što implicira da bi ove cyber prijetnje mogle postati sve teže otkriti.
Čovječji sudionici u istraživanju su bili zavarani AI-generiranim phishing e-porukama s uspjehom sličnim onima koje stvaraju ljudi, otkriće koje ističe rastući problem online prijevara. Budući da prevaranti obično predstavljaju kao ugledne tvrtke radi prikupljanja osjetljivih informacija, napredak AI-a najavljuje novi val izazova unutar područja cyber sigurnosti.
Tamna strana AI u naporima phishinga je istaknuta, prikazujući učinkovitost tehnologije u prikupljanju podataka, odabiru ciljeva i oblikovanju prijevara radi financijske dobiti. Međutim, ovaj tech također može biti ključ za suzbijanje takvih prijevarnih pokušaja.
Istraživači su naglasili dvojnost AI modela, budući da su neki pokazali izuzetnu vještinu u prepoznavanju čak i najobljezenijih phishing e-poruka, potencijalno nadmašujući ljude u određenim okolnostima.
Tijekom eksperimenata, AI modeli su identificirali pokušaje phishinga i predložili odlične protumjere, poput poticanja korisnika da provjere prejednostavne prodaje putem službenih web stranica, prikazujući preventivni potencijal AI-a protiv ovih cyber zločina.
Federalna trgovinska komisija (FTC) savjetuje javnost da je najbolji način izbjegavanja phishing prijevara izbjegavanje klikanja na veze nepoznatih pošiljatelja, uvijek provjeravanje autentičnosti izvora i prijavljivanje sumnjive aktivnosti Anti-Phishing radnoj grupi. Kako online bojište postaje sofisticiranije, tako se povećava potreba za opreznim i inteligentnim strategijama obrane – u kojima bi AI mogao odigrati ključnu ulogu.
Ključna pitanja i odgovori:
P: Što su phishing napadi i kako AI modeli poboljšavaju njihovu učinkovitost?
O: Phishing napadi su prijevarni pokušaji dobivanja osjetljivih informacija poput korisničkih imena, lozinki i podataka kreditnih kartica prerušavanjem kao pouzdana entitet. Napredni AI modeli povećavaju učinkovitost phishinga generiranjem uvjerljivih lažnih komunikacija koje oponašaju legitimne, čime se poboljšava stopa uspjeha ovih prijevara.
P: Kako AI pomaže u borbi protiv pokušaja phishinga?
O: AI pomaže u borbi protiv phishinga analiziranjem uzoraka i prepoznavanjem tipičnih karakteristika phishing e-poruka, čime se olakšava njihovo prepoznavanje i blokiranje. AI također može pružiti savjete o tome kako spriječiti postajanje žrtve tih napada, poput predlaganja verifikacije autentičnosti ponuda putem službenih kanala.
P: Koje su glavne izazovi povezane s korištenjem AI-a u obrani od phishinga?
O: Jedan od značajnih izazova je utrka u naoružanju između napadača i branitelja phishinga, pri čemu svaka strana koristi AI kako bi unaprijedila ili suzbila napade. Dodatno, važni su i osiguranje da sigurnosne mjere AI-a ne ometaju legitimnu komunikaciju te održavanje korisničke privatnosti.
Glavni izazovi i kontroverze:
– Eskalacija prijetnji phishingom zbog AI-a, što dovodi do stalne bitke između cyber kriminalaca i zaštitnika cyber sigurnosti.
– Određivanje etičkih granica korištenja AI-a u svrhu sigurnosti, posebno uzimajući u obzir pitanja privatnosti.
– Suočavanje s tehnikama izbjegavanja prevaranata, koji neprestano prilagođavaju nove sigurnosne mjere.
Prednosti AI-a u borbi protiv phishinga:
– Povećana učinkovitost u otkrivanju phishing e-poruka.
– Smanjenje vremena odgovora na nove i evoluirajuće prijetnje phishingom.
– Potencijal za stalno učenje i prilagodbu na nove tehnike cyber kriminalaca.
Mane AI-a u borbi protiv phishinga:
– Mogućnost lažnih pozitiva, što dovodi do označavanja legitimnih komunikacija kao phishing.
– Napredni AI koji koriste napadači mogao bi dovesti do sofisticiranijih i teže detektiranih pokušaja phishinga.
– Ovisnost o AI-u može dovesti do nearanžiranosti u ljudskim nadzorom i verifikacijskim procesima.
Za daljnje informacije o AI-u i cyber sigurnosti, ovi resursi bi vam mogli biti korisni:
– Berkman Klein centar za internet i društvo na Harvard sveučilištu
– Savezna trgovinska komisija (FTC)
– Radna grupa protiv phishinga
Napomena: Iako su navedene veze provjerene prema najboljem saznanju na dan mog posljednjeg ažuriranja, integritet i sadržaj stranica mogu se vremenom promijeniti.
The source of the article is from the blog lisboatv.pt