Financial scams utvecklas och drivs av den ökande användningen av generativ artificiell intelligens (AI) -teknik av brottslingar. Företag som förbjuder anställda att använda AI är inte immuna mot dessa bedrägerier, eftersom brottslingar använder AI-verktyg som ChatGPT och FraudGPT för att skapa övertygande deepfakes och realistiska phishing-e-postmeddelanden. Förekomsten av dessa bedrägerier är uppenbar, enligt en undersökning utförd av Association of Financial Professionals, som visar att 65% av organisationerna upplevde försök till eller faktiska betalningsbedrägerier år 2022.
Phishing-e-postmeddelanden förblir en vanlig taktik, där brottslingar utger sig för att vara betrodda källor och lurar mottagare att dela känslig information eller göra bedrägliga betalningar. Användningen av generativ AI gör det svårare att skilja mellan autentiska och falska e-postmeddelanden. Tidigare skulle grammatiska fel eller konstig skrivstil väcka misstankar, men nu kan brottslingar använda AI för att skapa övertygande e-postmeddelanden som till och med kan imitera företagets chefer.
En ökänd händelse i Hongkong fungerar som en varningssignal. En finansanställd fick en överföringsförfrågan på 25,6 miljoner dollar från ett deepfake-video samtal med företagets finanschef och kollegor i Storbritannien. Först efter att den anställda kontaktade huvudkontoret insåg de bedrägeriet. Detta incident betonar den imponerande nivån av trovärdighet som uppnås genom AI-drivna deepfakes.
Utmaningen ligger i tillgängligheten av generativa AI-verktyg och den stora mängden information som finns tillgänglig online och som kan användas för att skapa övertygande phishing-e-postmeddelanden. Dessutom har spridningen av API:er och finansiella transaktionsplattformar ökat angreppsytan för brottslingar. Automation spelar också en betydande roll, vilket gör att bedragare snabbt kan öka antalet attacker och öka sina chanser till framgång.
För att bekämpa AI-drivna finansiella bedrägerier vänder sig finansbranschen till sina egna generativa AI-modeller. Företag som Mastercard investerar i AI-teknik för att upptäcka och förhindra bedrägerier. Men att tackla detta problem kräver en mångfacetterad strategi, inklusive anställd utbildning, robusta säkerhetsåtgärder och kontinuerlig anpassning till föränderliga taktiker.
Sammanfattningsvis måste företag inse att det inte räcker att bara förbjuda anställda från att använda generativ AI för att skydda sig mot AI-drivna finansiella bedrägerier. Det är viktigt att implementera omfattande strategier som kombinerar teknologi, medvetenhet hos anställda och samarbete inom branschen för att ligga steget före ständigt föränderliga hot.
Vanliga frågor om AI-drivna finansiella bedrägerier
F: Vilken teknik använder brottslingar för att skapa övertygande bedrägerier?
S: Brottslingar använder generativ artificiell intelligens (AI) -teknik, som ChatGPT och FraudGPT, för att skapa övertygande deepfakes och realistiska phishing-e-postmeddelanden.
F: Är företag som förbjuder anställda från att använda AI immuna mot dessa bedrägerier?
S: Nej, företag som förbjuder anställda från att använda AI är inte immuna mot dessa bedrägerier. Brottslingar kan fortfarande använda AI-verktyg för att skapa bedrägerier, även om anställda inte själva får använda AI.
F: Hur vanliga är dessa bedrägerier?
S: Enligt en undersökning utförd av Association of Financial Professionals upplevde 65% av organisationerna försök till eller faktiska betalningsbedrägerier år 2022.
F: Vilken är en vanlig taktik som används i dessa bedrägerier?
S: Phishing-e-postmeddelanden förblir en vanlig taktik, där brottslingar utger sig för att vara betrodda källor för att lura mottagare att dela känslig information eller göra bedrägliga betalningar.
F: Hur gör generativ AI det svårare att upptäcka falska e-postmeddelanden?
S: Generativ AI gör det möjligt för brottslingar att skapa övertygande e-postmeddelanden som till och med kan imitera företagets chefer, vilket gör det svårare att skilja mellan autentiska och falska e-postmeddelanden.
F: Kan du ge ett exempel på en händelse där AI-drivna deepfakes användes i ett bedrägeri?
S: I Hongkong fick en finansanställd en överföringsförfrågan på 25,6 miljoner dollar från ett deepfake-video samtal med företagets finanschef och kollegor. Det var först efter att ha kontaktat huvudkontoret som bedrägeriet upptäcktes.
Nyckelbegrepp:
– Generativ artificiell intelligens (AI): Teknik som kan generera nytt innehåll (som text eller bilder) baserat på mönster och exempel den har lärt sig.
– Deepfakes: Manipulerade videor eller bilder skapade med hjälp av AI för att få det att verka som att någon säger eller gör något de aldrig faktiskt gjorde.
Föreslagna relaterade länkar:
– Mastercard: Läs mer om AI-tekniken som används av företag som Mastercard för att upptäcka och förhindra bedrägerier.
The source of the article is from the blog coletivometranca.com.br