Napredki na področju umetne inteligence (AI) so bili blagoslov za mnoge industrije, spodbujajo inovacije in rast. Vendar pa ob teh koristih poteka tudi temačna zgodba, kjer se povečana stopnja AI opremlja kriminalce z novimi orodji za goljufije. Plaid, finančna storitvena družba, je opazila pomemben porast prevarantskih aktivnosti, zlasti v povezavi z novimi tehnikami za obhod varnostnih ukrepov.
Ena takšnih taktik, znana kot “napad na živost,” je nedavno porasla za 38 %. Prevaranti izvajajo te napade tako, da lažno upodobijo drugega posameznika med videoverifikacijskimi koraki, ki so pogosto potrebni v današnjih digitalnih avtentikacijskih procesih. Kriminalci lahko uporabljajo različne metode, od statičnih fotografij do hiperrealističnih mask, in celo AI-generirane “deepfake” slike, da zavedejo sisteme, namenjene zaščiti.
Čeprav je uporaba AI-generiranih obrazov v teh zvijačah približno 12 %, pa je bolj pretresljiva statistika, da ima generativna AI vlogo pri približno 25 % vseh lažnih predložitev osebnih dokumentov. Alain Meier, vodja identitete pri Plaidu, poudarja zaskrbljujoče preprostost, s katero se lahko danes izvršujejo prevare, pri čemer opozarja na nizko stopnjo izvajanja sofisticiranih kibernetskih napadov iz leta v leto.
Za večino strank Plaida so procesi “poznaj svojega kupca” (KYC) nenadomestljivi, bistveni za preverjanje identitet novih imetnikov računov. Vendar spretni prevaranti najdejo vrzeli, AI pa uporabljajo za ustvarjanje zelo prepričljivih deepfake videoposnetkov, da bi se lažno predstavili kot zakoniti uporabniki in pridobili neavtoriziran dostop do njihovih računov.
Ko je prisostvoval Plaidovim proaktivnim ukrepom, je Meier opisal, kako je družba preprečila poskus prevar. Ko je več novih uporabnikov z enakimi IP naslovi poskušalo opraviti preverjanje, je kombinacija AI in človeške analize razkrila vzhodnoevropsko kriminalno združbo, ki je uporabljala fikcijsko ozadje za svoje operacije.
Kljub sofisticiranosti sodobne varnostne programske opreme, ki uporablja strojno učenje za odkrivanje odstopanj v dokumentih in videoposnetkih, je ostati korak pred prevarantskimi shemami zastrašujoča naloga, zlasti za manjše podjetja. Mnoga nimajo specializiranih virov, potrebnih za boj proti naprednim prevaram, kar pomeni potrebo po specializiranih strokovnjakih znotraj podjetij za boj proti rastočim kibernetskimi grožnjam.
AI kot katalizator za poslovno rast: AI je revolucioniral industrije z optimizacijo operacij, personalizacijo izkušenj strank, zagotavljanjem podatkovnih vpogledov, izboljšanjem odločanja in avtomatizacijo ponavljajočih se nalog. Z AI lahko podjetja analizirajo velike količine podatkov v realnem času, napovejo vedenje strank ter inovirajo produkte in storitve hitreje.
AI in prevare: Čeprav lahko AI podpre rast, obenem ponuja tudi priložnosti za zlorabo. Sofisticirane AI tehnike omogočajo kriminalcem manipulacijo sistemov in izvajanje goljufij v velikem obsegu. Kot opaženo pri Plaidu, je porast prevare, ki jo omogoča AI, zaskrbljujoč. Tehnologije, kot so deepfake, kjer se AI uporablja za ustvarjanje ponarejenih slik in videoposnetkov, so postale orodje za krajo identitete in finančne prevare.
Najpomembnejša vprašanja in odgovori:
Q: S kakšnimi izzivi se podjetja soočajo pri boju proti prevaram, ki jih omogoča AI?
A: Med izzivi so ostajanje na tekočem z hitro rastočimi prevarantskimi tehnikami, vlaganje v napredne varnostne rešitve in iskanje ravnotežja med uporabnikovo priročnostjo in varnostjo.
Q: Kako se lahko manjša podjetja zaščitijo pred sofisticiranimi prevarami?
A: Manjša podjetja lahko sprejmejo varnostne ukrepe najboljše prakse, vlagajo v kakovostne sisteme odkrivanja prevaram, ter iščejo partnerske odnose ali sodelovanja za deljene kibernetske varnostne vire.
Ključni izzivi in kontroverze: Razmnoževanje “deepfake” vprašanja o etiki pri manipulaciji medijskih vsebin. Sledi tudi vprašanje o zasebnosti, saj lahko AI sistemi, ki spremljajo prevare, obdelajo obsežne količine osebnih podatkov. Poleg tega je oblikovanje AI-ja, ki lahko razlikuje med zakonitimi uporabniki in prevaranti, ne da bi povzročal neprijetnosti slednjim, še vedno pomemben izziv.
The source of the article is from the blog newyorkpostgazette.com