Finanční podvody se vyvíjejí a jsou hnány narůstajícím používáním generativní umělé inteligence (AI) zločinci. Společnosti, které zakazují zaměstnancům používat AI, nejsou imunní vůči těmto podvodům, protože zločinci využívají nástroje AI, jako je ChatGPT a FraudGPT, k vytváření přesvědčivých deepfakeů a realistických falešných emailů s phishingem. Prevalence těchto podvodů je patrná – podle průzkumu provedeného sdružením finančních profesionálů se v roce 2022 s pokusy nebo reálnými podvody při platbách setkalo 65% organizací.
Phishingové emaily zůstávají běžnou taktikou, při které zločinci vystupují jako důvěryhodné osoby a podvodně přimějí příjemce k sdílení citlivých informací nebo k provedení falešných plateb. Použití generativní AI je znesnadňuje rozlišit mezi autentickými a falešnými emaily. Dříve by podivné gramatické chyby nebo divné formulace vyvolávaly podezření, ale nyní mohou zločinci využít AI k vytváření přesvědčivých emailů, které dokonce napodobují výkonné pracovníky společnosti.
Jedním známým případem z Hongkongu je poučný příběh. Finanční zaměstnanec obdržel z překresleného videohovoru se společností britského finančního ředitele a kolegů žádost o převod 25,6 milionu dolarů. Teprve po kontaktování centrály si zaměstnanec uvědomil podvod. Tato událost ukazuje na vysokou míru věrohodnosti dosaženou díky deepfakeům s využitím AI.
Základní výzva tkví v dostupnosti nástrojů generativní AI a v obrovském množství dostupných informací online, které lze použít k vytváření přesvědčivých phishingových emailů. Navíc se rozšířily API a finanční transakční platformy, což zvýšilo plochu útoku zločinců. Automatizace také hraje významnou roli, umožňuje podvodníkům rychle škálovat útoky a zvyšovat tak šance na úspěch.
Pro boj proti finančním podvodům poháněných AI se finanční průmysl obrací ke svým vlastním modelům generativní AI. Společnosti jako Mastercard investují do AI technologií pro detekci a prevenci podvodů. Nicméně řešení tohoto problému vyžaduje komplexní přístup, včetně vzdělávání zaměstnanců, robustních bezpečnostních opatření a neustálého přizpůsobování se vyvíjejícím se taktikám.
Závěrem je třeba, aby si společnosti uvědomily, že samotné zakázání používání generativní AI zaměstnanci nestačí pro ochranu před finančními podvody poháněnými AI. Je klíčové implementovat komplexní strategie, které kombinují technologii, povědomí zaměstnanců a spolupráci průmyslu, aby se udržely krok s stále se rozvíjejícími hrozbami.
Často kladené otázky o finančních podvodech poháněných AI
The source of the article is from the blog papodemusica.com