Čínské AI-generovaný obsah vytváří hrozbu pro globální volby. Microsoft varoval, že Čína se chystá narušit povrchuplynoucí volby v Indii, Spojených státech a Jižní Koreji využitím umělé inteligence generovaného obsahu. Tato hrozba přichází poté, co Čína provedla zkouškový běh během prezidentských voleb na Tchaj-wanu, kde byla AI použita k ovlivnění výsledku voleb.
S více než 64 zeměmi a Evropskou unií, které se očekávají, že budou mít celostátní volby, což představuje téměř polovinu světové populace, identifikoval tým hrozeb Microsoft Threat Intelligence čínské státem podporované kybernetické skupiny, společně s angažovaností Severní Koreje, jako významné hrozby pro několik voleb plánovaných na rok 2024. Hlavním cílem těchto skupin je použít AI-generovaný obsah prostřednictvím sociálních platforem k ovlivnění veřejného mínění ve prospěch jejich zájmů během těchto voleb.
Využití AI technologie v politické reklamě přináší významnou hrozbu produkce klamných a chybných obsahů, včetně deepfake videí a zinscenovaných událostí. Tyto taktiky mají za cíl zavést veřejnost ohledně prohlášení kandidátů, jejich postojů k různým otázkám a dokonce autenticity určitých událostí. Pokud budou tyto manipulativní pokusy bez dozoru, mají potenciál podkopat schopnost voličů činit informovaná rozhodnutí.
Zatímco okamžitý dopad AI-generovaného obsahu zůstává poměrně nízký, Microsoft varuje před rostoucím experimentováním provedeným Čínou, což by se mohlo v čase stát efektivnějším. Čína již v minulosti pokusila ovlivnit volby na Tchaj-wanu prostřednictvím šíření AI-generované dezinformace, což byla první příležitost, kdy státem podporovaná entita využila takové taktiky v cizí zemi. Během tchajwanských voleb skupina známá jako Storm 1376 podporovaná Pekingem šířila AI-generovaný obsah, včetně falešných audio podpor a memů, s cílem diskreditovat určité kandidáty a ovlivňovat vnímání voličů. Podobné taktiky byly využity Íránem, včetně využití AI-generovaných televizních moderátorů.
Čína také provádí kampaň ovlivňování ve Spojených státech, využívající sociálních médií k položení rozdělujících otázek a shromažďování informací o klíčových volebních demografiích. I když je málo důkazů, že by tyto snahy byly úspěšné ve změně názoru, bylo zaznamenáno zvýšené používání čínského AI-generovaného obsahu, který se snaží ovlivňovat a vytvářet rozdělení na různá témata, včetně nedávných událostí, jako je vykolejení vlaku v Kentucky, požáry na Maui, likvidace japonských jaderných odpadů, používání drog ve Spojených státech, imigrační politiky a rasové napětí v zemi.
Hrozba AI-generovaného obsahu sahá za hranice Spojených států a Tchaj-wanu. Před nadcházejícími demokratickými primárkami v New Hampshire v roce 2024 byl proveden AI-generovaný telefonní hovor napodobující hlas prezidenta Joea Bidena a radící voličům, aby se neúčastnili hlasování, falešně naznačujíc, že sám prezident Biden doporučil tento pokyn. Ačkoli neexistují důkazy o čínské účasti v tomto konkrétním případě, zdůrazňuje to, jakým způsobem AI představuje přímou hrozbu demokratickým postupům.
Jak se blíží obecné volby v Indii, Volební komise Indie (ECI) již poskytla směrnice a protokoly k rychlé identifikaci a reakci na falešné informace a dezinformace. OpenAI, vývojář ChatGPT, se také setkal s ICI a nastínil opatření, která jsou přijímána k zabránění zneužití AI při nadcházejících volbách.
Čínské využívání AI-generovaného obsahu pro ovlivnění globálních voleb představuje významnou hrozbu pro demokratické procesy. Jak se technologie nadále posunuje, je klíčové, aby vlády a organizace po celém světě byly bdělé při boji proti dezinformacím a zajistily integritu voleb.
Časté dotazy (FAQ)
The source of the article is from the blog smartphonemagazine.nl