Sammanfattning: KYC (Know Your Customer) är en avgörande process för att verifiera kundernas identitet inom finansbranschen. Dock utgör det växande användandet av generativ AI och deepfakes ett betydande hot mot KYC-autentiseringen. Deepfakes är manipulerade bilder eller videoklipp som skapas med hjälp av AI-verktyg och kan användas för att lura KYC-system. Även om det ännu inte finns några konkreta bevis på att deepfakes har lurat KYC-system har möjligheten att enkelt skapa realistiska förfalskade ID-bilder anledning till oro.
I den vanliga KYC-processen för ID-bildautentisering laddar kunder upp en bild av sig själva där de håller i ett ID-dokument, som till exempel ett pass eller körkort. Denna bild kontrolleras mot dokument och selfies som finns sparade för att förhindra försök till impersonering. Men denna metod har aldrig varit helt foolproof, då bedragare i flera år har sålt förfalskade ID-dokument och selfies.
Nu gör generativa AI-verktyg som Stable Diffusion det möjligt för angripare att skapa syntetiska renderade bilder av en person med valfritt bakgrund. Genom att justera dessa bilder kan angriparen få det att se ut som om målet håller i ett ID-dokument. Sedan kan angriparen använda en bildredigerare för att infoga ett riktigt eller falskt dokument i den deepfakade personens händer.
Att skapa övertygande deepfakade ID-bilder med Stable Diffusion kräver för närvarande ytterligare verktyg och viss expertis, men inträdesbarriären sänks. Tidigare krävdes avancerad kunskap om bildredigeringsprogram för att skapa realistiska ID-bilder, men nu blir det allt mer tillgängligt att skapa dessa bilder med realistisk belysning och miljöer.
Ännu mer oroande är det faktum att deepfakade KYC-bilder enkelt kan användas i appar. Androidappar som körs på en desktop-emulator eller webbappar kan luras till att acceptera deepfakade bilder istället för en livestream från kameran, genom att använda programvara som omvandlar vilken bild- eller videokälla som helst till en virtuell webbkamera.
Vissa appar och plattformar har infört ”liveness”-kontroller som en extra säkerhetsåtgärd för att verifiera identitet. Men även dessa kontroller kan kringgås med hjälp av generativ AI-teknik när deepfakes blir mer sofistikerade.
Även om deepfakade bilder och videoklipp kanske ännu inte har nått punkten där de kan lura mänskliga granskare väcker den snabba utvecklingen inom AI-teknologi oro. KYC, som redan hade sina begränsningar, kan snart bli praktiskt taget värdelös som en säkerhetsåtgärd om deepfakes fortsätter att utvecklas. Det är avgörande att investera i starkare autentiseringsmetoder för att minska hotet från deepfakes inom KYC-processer.
The source of the article is from the blog bitperfect.pe