Den accelererade integrationen av artificiell intelligens (AI) i olika sektorer har gett skadliga aktörer tillgång till avancerade verktyg för att utföra cyberbrott, som detaljeras av cybersäkerhetsledaren Kaspersky Research. En oroande utveckling inom denna digitala kapprustning är uppkomsten av ’deepfakes’, AI-konstruerade bilder, ljud och videor som är omöjliga att skilja från autentiskt innehåll. Kaspersky har lyft fram det akuta behovet av allmän vaksamhet gällande deepfakes, särskilt när deras potential att lura växer allt starkare.
Deepfake-tekniken manipulerar AI för att skapa övertygande digital imitation, vilket gör att individer kan verka som att de säger eller gör saker de aldrig faktiskt gjorde. Med utvecklingen av denna teknik visar Kasperskys resultat att deepfake-generering till och med har trängt in i de mörka hörnen av dark web, där de handlas och används för illasinnade aktiviteter som bedrägeri och dataläckage.
Vad gäller kostnad kan artificiella videoklipp vara förvånansvärt ekonomiska, med ett pris på cirka 300 dollar per minut, vilket gör dem till ett relativt billigt men potent vapen för kriminella aktiviteter. Dessutom, trots ökad medvetenhet, upplever många individer det som utmanande att skilja mellan verkliga och AI-genererade bilder. Kasperskys undersökning avspeglar denna brist på discernment, med en betydande skillnad mellan de som tror att de kan identifiera deepfakes och de som faktiskt kan det, en diskrepans som utsätter organisationer för ökade säkerhetsrisker.
Deepfake-tekniken är inte enbart en företagsfråga; individer är också lika utsatta. Eftersom verktyg som kan imitera röster i realtid närmar sig verklighet blir riskerna med desinformation och bedrägerier allt större. Denna växande fara är inte begränsad av geografi, med Global Risks Report 2024 som namnger AI-drivna desinformation som en topprisk för regioner som Indien och Pakistan.
Den politiska scenen är inte immun, med tidigare fall i Pakistan där politiska figurer, inklusive tidigare premiärministern Imran Khan, använt sådana teknologier för att kampanja och påverka allmän opinion. Med bristfälliga regelverk för att reglera missbruk av AI är kampen mot desinformation beroende av både lagstiftningen och det digitala samfundets kollektiva medvetenhet.