Zrychlená integrace umělé inteligence (AI) do různých sektorů poskytla škodlivým aktérům přístup k pokročilým nástrojům pro provádění kybernetických zločinů, jak podrobně uvádí kybernetický lídr výzkumu společnosti Kaspersky. Zděšujícím vývojem v tomto digitálním závodě ve zbraních je vznik „deepfake“, AI-konstruovaných obrázků, zvuků a videí nerozlišitelných od autentického obsahu. Kaspersky upozornil na naléhavou potřebu veřejné ostražitosti ohledně deepfake, zejména jak jejich potenciál k zavádění narůstá.
Technologie deepfake manipuluje AI, aby vytvořila přesvědčivé digitální napodobeniny, které umožňují jednotlivcům vypadat, jako by říkali nebo dělali věci, které ve skutečnosti nikdy neudělali. S rozvojem této technologie ukazují zjištění od Kasperskyho, že generace deepfake pronikla dokonce i do temných koutů dark webu, kde jsou obchodovány a používány k nepoctivým aktivitám jako je podvod a krádež dat.
Co se týče nákladů, umělé video klipy mohou být překvapivě ekonomické, prodávané za zhruba 300 dolarů za minutu, což z nich dělá relativně levnou, ale účinnou zbraň pro trestnou činnost. Navíc, navzdory rostoucí informovanosti, mnoho jednotlivců má potíže rozeznat mezi reálnými a AI-generovanými obrazy. Průzkum Kasperskyho odhaluje tuto mezeru v rozlišování, s významným rozdílem mezi těmi, kteří věří, že dokáží identifikovat deepfake a těmi, kteří to opravdu dokážou, rozdíl, který vystavuje organizace vyššímu riziku bezpečnosti.
Technologie deepfake není pouze obchodním problémem; jednotlivci jsou stejně ohroženi. Jelikož nástroje schopné imitace hlasu v reálném čase se blíží k realitě, rizika spojená s dezinformací a podvodem eskalují. Tato rostoucí hrozba není svázána s geografií, jelikož Global Risks Report 2024 označuje umělou inteligenci řízenou dezinformací za hlavní riziko pro regiony jako Indie a Pákistán.
Politická scéna není imunní, s minulými případy v Pákistánu, kde političtí představitelé, včetně bývalého premiéra Imrana Chána, používali tyto technologie k propagaci a ovlivňování veřejného mínění. S nedostatečnými regulačními rámci pro potlačení zneužití AI, boj proti dezinformacím spočívá jak na bedrech zákona, tak na kolektivní uvědomělosti digitální komunity.
The source of the article is from the blog kunsthuisoaleer.nl