Ühes Harvardi ülikooli läbiviidud uuringus tõi välja suurte keelede hulga mudelite (LLM) võimsad võimed petturlike rünnakute korraldamisel. Need AI-ga juhitud mudelid suudavad automatiseerida kogu pettuseprotsessi, vähendades kulusid oluliselt kuni 95%, mis tähendab, et neid küberohte võib muutuda üha raskemaks avastada.
Uuringus osalevad inimesed olid petetud AI genereeritud pettusemeilide poolt sarnase edu määraga nagu inimeste loodud meilid, avastus, mis rõhutab online pettuste kasvavat probleemi. Kuna petturid poseerivad tavaliselt mainekate ettevõtetena tundlike andmete kogumiseks, toob AI areng endaga kaasa uue laine väljakutseid küberturvalisuse valdkonnas.
AIs pettuste pingutustes esile tõsteti tehnoloogia tumedat külge, näidates selle tõhusust andmete kogumisel, sihtmärkide valimisel ja petlikkude sõnumite loomisel rahaliseks kasuks. Siiski võib sellel tehnoloogial olla võti selliste petturlusekatsuste tõkestamiseks.
Uurijad rõhutasid AI mudelite kahesust, kuna mõned neist näitasid erakordset oskust isegi kõige petlikumate pettusemeilide äratundmisel, võimalik, et teatud olukordades ületades inimesi.
Katsete käigus on AI mudelid tuvastanud petturluskatsed ja soovitanud suurepäraseid vastumeetmeid, näiteks kutsudes kasutajaid kontrollima liiga head olevat müüki ametlike veebisaitide kaudu, näidates AI ennetavat potentsiaali nende küberkuritegude vastu.
Föderaalkaubanduskomisjon (FTC) soovitab avalikule, et parim viis petlikke pettusi vältida on vältida klõpsamist tundmatute saatjate linkidel, alati kontrollida allika autentsust ja teatada kahtlasest tegevusest Anti-Phishing Working Group’ile. Kuna online lahinguväli muutub üha keerukamaks, sama keeruline muutub ka vajadus valvsate ja intelligentsete kaitsestrateegiate järele – milles AI võib mängida võtmerolli.
Põhiküsimused ja vastused:
K: Mis on petturlikud rünnakud ja kuidas AI mudelid suurendavad nende efektiivsust?
A: Petlikud rünnakud on petturlikud katse saada tundlikku teavet nagu kasutajanimed, paroolid ja krediitkaardi andmed esitledes ennast usaldusväärse asutusena. Täiustatud AI mudelid suurendavad pettuste efektiivsust, luues veenvaid valekommunikatsioone, mis matkivad legitiimseid, parandades seeläbi nende pettuste edu määra.
K: Kuidas aitab AI pettuste tõkestamisel?
A: AI aitab võidelda pettuste vastu mustrite analüüsimise ja pettusemeilide tüüpiliste tunnuste äratundmise kaudu, muutes nende tuvastamise ja blokeerimise lihtsamaks. AI võib samuti anda nõu, kuidas vältida nende rünnakute ohvriks langemist, näiteks soovitada pakkumiste autentsuse kontrollimist ametlike kanalite kaudu.
K: Mis on AI kasutamisega pettuste tõrjes seotud peamised väljakutsed?
A: Üks olulisi väljakutseid on võidurelvastumine pettuse ründajate ja kaitsjate vahel, kus mõlemad pooled kasutavad AI-d rünnakute tõhustamiseks või nende vastu võitlemiseks. Lisaks sellele tagada, et AI turvameetmed ei sega legitiimseid suhtlusi ja tagada kasutaja privaatsus on olulised mured.
Põhiväljakutsed ja vaidlused:
– Petukõne ohtude eskaleerumine AI tõttu, mis viib pideva võitluse küberkurjategijate ja küberkaitsejate vahel.
– Eetiliste piiride määratlemine AI kasutamisel turvalisuse eesmärgil, eriti privaatsusküsimuste kaalumisel.
– Võitlemine petturite väldimistehnikatega, kes kohanduvad pidevalt uute turvameetmetega.
AI eelised pettuste vastu võitlemisel:
– Suurenenud efektiivsus pettusemeilide tuvastamisel.
– Reageerimisaja vähendamine uutele ja arenevatele pettuste ohtudele.
– Potentsiaal end pidevalt õppida ja kohanduda uutele küberkurjategijate tehnikatele.
AI puudused pettuste vastu võitlemisel:
– Võimalus valepositiivseteks, mistõttu legitiimsed suhtlusvormid märgitakse pettustena.
– Petturite poolt kasutatav arenenud AI võib viia keerukamate ja raskemini tuvastatavate pettuste katseteni.
– AI-le toetumine võib viia hooletusse inimjärelevalve ja kontrollprotsessid.
Lisateabe saamiseks AI ja küberturvalisuse kohta võivad järgmised ressursid kasulikud olla:
– Berkman-Kleini Interneti- ja Ühiskonna Keskus Harvardi Ülikoolis
– Föderaalkaubanduskomisjon (FTC)
– Anti-Phishing Working Group
Palun pane tähele, et kuigi minu viimase värskenduse ajal kontrollisin linkide usaldusväärsust parima võimaliku teadmise järgi, võivad nende saitide terviklikkus ja sisu aja jooksul muutuda.
The source of the article is from the blog smartphonemagazine.nl