Zrychlená integrace umělé inteligence (AI) do různých odvětví poskytla zlovolným aktérům přístup k pokročilým nástrojům pro provádění kybernetických zločinů, jak podrobně popisuje kybernetický expert výzkumník Kaspersky. Alarmujícím vývojem v tomto digitálním závodě vyzbrojení je nástup ‚deepfake‘, AI-konstruovaných obrazů, zvuků a videí, které nelze odlišit od autentického obsahu. Kaspersky zdůraznil naléhavou potřebu veřejné bdělosti vůči deepfake, zejména s ohledem na rychle rostoucí potenciál jejich klamu.
Technologie deepfake manipuluje umělou inteligenci k vytváření přesvědčivých digitálních imitací, díky nimž jednotlivci vypadají, jako by říkali nebo dělali věci, které ve skutečnosti nikdy neudělali. S rozvojem této technologie ukazují zjištění od Kasperskyho, že generování deepfake dokonce proniklo do temných koutů dark webu, kde jsou obchodovány a používány k nekalým aktivitám, jako je podvod a krádež dat.
Pokud jde o cenu, umělé video klipy mohou být překvapivě ekonomické, pohybují se kolem 300 dolarů za minutu, což z nich činí poměrně levnou, ale účinnou zbraň pro kriminální činnosti. Navíc, navzdory zvyšující se informovanosti, mnoho jednotlivců nachází obtížné rozlišovat mezi reálným a AI-generovaným obrazem. Kasperskyho průzkum odráží tuto propast v discernmentu, s významným rozdílem mezi těmi, kteří věří, že dokážou identifikovat deepfake a těmi, kteří to skutečně dokáží, rozdíl, který vystavuje organizace zvýšeným bezpečnostním rizikům.
Technologie deepfake není pouze záležitostí firem, jednotlivci jsou stejně ohroženi. Vzhledem k tomu, že nástroje schopné imitace hlasu v reálném čase se blíží k realitě, stoupají rizika spojená s dezinformacemi a podvodem. Tato rostoucí hrozba není omezena geografií, Global Risks Report 2024 jmenuje AI-ovoděnou dezinformaci jako nejvyšší riziko pro regiony jako Indie a Pákistán.
Politická scéna není imunní, s minulými případy v Pákistánu, kde političtí představitelé, včetně bývalého premiéra Imrana Khana, využili takové technologie k propagaci a ovlivňování veřejného mínění. S nedostatečnými regulačními rámci ke zvládnutí zneužití AI, boj proti dezinformacím spočívá jak na bedrech zákona, tak na kolektivním uvědomování digitální komunity.