Finančné podvody sa vyvíjajú vďaka čoraz väčšiemu používaniu generatívnej umelej inteligencie (AI) kriminálnymi skupinami. Spoločnosti, ktoré zakazujú zamestnancom používať AI, nie sú imúnne voči týmto podvodom, pretože zločinci využívajú nástroje ako ChatGPT a FraudGPT na vytváranie presvedčivých falošných emailov a e-mailových odpočúvačiek. Rozsah týchto podvodov je zrejmý, keďže podľa prieskumu Asociácie finančných profesionálov sa v roku 2022 s nimi stretlo 65% organizácií prostredníctvom pokusov o podvodné platby alebo ich realizáciou.
Phishingové e-maily sú stále bežnou taktikou, kde zločinci sa vydávajú za dôveryhodné zdroje a oklamať príjemcov, aby poskytli citlivé informácie alebo vykonali podvodné platby. Použitie generatívnej umelej inteligencie robí rozoznávanie medzi autentickými a falošnými e-mailami zložitejším. Skôr by podozrenia vzbudzovali gramatické chyby alebo zvláštne písanie, ale teraz zločinci využívajú AI na vytváranie presvedčivých e-mailov, ktoré dokonca imitujú vedenie spoločnosti.
Jeden osvedčený prípad z Hongkongu slúži ako poučný príbeh. Pracovník finančného oddelenia dostal požiadavku na prevod vo výške 25,6 milióna dolárov z videokonferencie spolu so spoločnosťou s generovaným obrazom vedúceho finančného oddelenia z UK a kolegami. Len po kontaktove so stredoškolským riaditeľstvom si úradník uvedomil podvod. Tento prípad ukazuje do akej miery je AI poháňané heské vyššie uvedené.
Podstatný problém sa skrýva v prístupnosti generatívnych AI nástrojov a obrovského množstva dostupných informácií online, ktoré možno využiť pri vytváraní presvedčivých phishingových e-mailov. Okrem toho sa výskytom aplikačných rozhraní a platformy finančných transakcií rozširuje povrch útoku. Automatizácia tiež zohráva významnú úlohu, umožňujúc podvodníkom rýchle škálovanie útokov a zvýšenie šancí na úspech.
Aby bola boj proti finančným podvodom sprevádzaných AI úspešná, finančný sektor sa obracia na svoje vlastné generatívne modely AI. Spoločnosti ako Mastercard investujú do AI technológií na odhaľovanie a predchádzanie podvodom. Avšak riešenie tohto problému vyžaduje multidimenzionálny prístup, ktorý zahŕňa vzdelávanie zamestnancov, robustné bezpečnostné opatrenia a neustále prispôsobovanie sa sa meniacim taktikám.
Záverom, spoločnosti musia uvedomiť, že jednoduchý zákaz používania generatívneho AI zamestnancami nestačí na ochranu pred finančnými podvodmi poháňanými AI. Je nevyhnutné implementovať komplexné stratégie, v ktorých sa kombinujú technológia, povedomie zamestnancov a spolupráca s odvetvím, aby sme dokázali udržať krok s stále sa meniacimi hrozbami.
Často kladené otázky týkajúce sa finančných podvodov poháňaných AI
Otázka: Akú technológiu zločinci používajú na vytvorenie presvedčivých podvodov?
Odpoveď: Zločinci používajú generatívnu umelú inteligenciu (AI), ako napríklad ChatGPT a FraudGPT, na vytvorenie presvedčivých deepfakes a realistických phishingových e-mailov.
Otázka: Sú spoločnosti, ktoré zakazujú zamestnancom používať AI imúnne voči týmto podvodom?
Odpoveď: Nie, spoločnosti, ktoré zakazujú zamestnancom používať AI, nie sú imúnne voči týmto podvodom. Zločinci stále môžu používať AI nástroje na vytváranie podvodov, dokonca aj keď zamestnancom nie je povolené používanie AI.
Otázka: Aká je rozsah týchto podvodov?
Odpoveď: Podľa prieskumu Asociácie finančných profesionálov sa v roku 2022 s nimi stretlo 65% organizácií prostredníctvom pokusov o podvodné platby alebo ich realizáciou.
Otázka: Aká taktika je bežná pri týchto podvodoch?
Odpoveď: Phishingové e-maily zostávajú bežnou taktikou, kde zločinci sa vydávajú za dôveryhodné zdroje, aby oklamali príjemcov do zdieľania citlivých informácií alebo vykonania podvodných platieb.
Otázka: Ako robí generatívna AI ťažšie odhaliť falošné e-maily?
Odpoveď: Generatívna AI umožňuje zločincom vytvárať presvedčivé e-maily, ktoré dokonca imitujú členov vedenia spoločnosti, čo robí rozlišovanie medzi autentickými a falošnými e-mailmi zložitejším.
Otázka: Môžete uviesť príklad prípadu, kedy boli využité AI-powered deepfakes pri podvode?
Odpoveď: V Hongkongu pracovník finančného oddelenia dostal požiadavku na prevod vo výške 25,6 milióna dolárov z hlboko vzatého videohovoru so vedením spoločnosti zo Spojeného kráľovstva. Podvod bol odhalený až po kontaktovaní hlavnej kancelárie.
Kľúčové pojmy:
– Generatívna umelej inteligencia (AI): Technológia, ktorá dokáže generovať nový obsah (ako texty alebo obrázky) na základe naučených vzorov a príkladov.
– Deepfakes: Manipulované videá alebo fotografie vytvorené pomocou AI, ktoré naznačujú, že niekto robí alebo hovorí niečo, čo v skutočnosti nikdy neurobil.
Navrhované súvisiace odkazy:
– Mastercard: Zistite viac o AI technológiách, ktoré sa používajú spoločnosťami ako Mastercard na odhaľovanie a predchádzanie podvodom.
The source of the article is from the blog elblog.pl