S postupem do roku 2024 se svět chystá na velmi důležité volby alespoň ve 64 národech. Výsledky těchto voleb nejen formují globální krajinu na nadcházející roky, ale také označují významný zvrat ve věku falešných zpráv a dezinformací.
Umělá inteligence (AI) se stále více stává nástrojem k vytváření hlubokých fake, což jsou digitálně upravená média, která dokáží přesvědčivě napodobit skutečné lidi. Schopnost AI vytvářet tyto klamavé videa a zvukové záznamy vyvolala obavy o jejich schopnost změnit volební výsledky na globální úrovni. Od New Hampshiru po Venezuelu je vliv AI generovaných hlubokých fake na demokraticky konané volby nezpochybnitelný.
V nedávné době jsme viděli příklady toho, jak AI generované hluboké fake již ovlivnily volby. Ve Spojených státech voliči obdrželi robocally údajně od prezidenta Joea Bidena, kteří je informovali, aby se zdrželi účasti v prezidentských primárkách. Syntetizovaný hlas, nerozeznatelný od skutečného Bidena, lživě tvrdil, že neúčast na primárkách ovlivní jejich schopnost hlasovat ve všeobecných volbách. Ačkoli zdroj těchto falešných hovorů byl nakonec odhalen, incident poukazuje na sílu AI generovaných hlubokých fake šířit dezinformace.
Venezuela slouží jako příklad země, kde dosáhla pokročilé úrovně AI řízená dezinformace a propaganda. S armádou „propagandistů“ a mnohojazyčnými hlubokými fake digitálními avatary se venezuelský systém snaží narušit volby na svém území a potenciálně změnit výsledky globálně.
Bývalý kolumbijský prezident Iván Duque zdůrazňuje potřebu efektivních kontrol k zabránění zahraničním aktérům manipulace volebních výsledků pomocí syntetického média vytvořeného pomocí AI a falešných zpráv. Duque varuje, že budoucnost demokracie závisí na těchto ochranných opatřeních, neboť padání do pasti umělých demokracií představuje významné riziko.
Vliv AI generovaných hlubokých fake přesahuje volby. V případě z Hongkongu byl pracovník v oblasti financí oklamán digitálně vytvořeným avatarem připomínajícím hlavního finančního ředitele společnosti, který převedl více než 25 milionů dolarů podvodníkům. Pokud je technologie již schopna klamat jednotlivce, že komunikují s reálnými lidmi, stává se ještě zřejmějším potenciál hlubokých fake videí ovlivnit voliče.
Pro řešení tohoto existenčního útoku na politické zprávy a volby odborníci navrhují různá opatření. Louis Steinberg, bývalý hlavní technologický ředitel TD Ameritrade, navrhuje vytvoření digitálních otisků pro hlasy a obrazy, podobně jako technologie rozpoznávání obličejů. Tyto digitální podpisy by ujišťovaly veřejnost, že určitá slova byla vyslovena konkrétními jednotlivci v pořadí, jak byla řečena, poskytujíc způsob ověření.
Nicméně, implementace takových ochranných opatření může trvat dlouho, což znamená, že je nutné, aby společnosti sociálních médií nesly zodpovědnost v blízké budoucnosti. Steinberg argumentuje, že sociální média by měla být zodpovědná za kontrolu faktů informací, které hostí, zajišťujíc tak šíření přesných obsahů.
Hrozba zbraněné dezinformace v politice není nová, ale příchod AI generovaných hlubokých fake nás dostal na kritický bod. Tyto přesvědčivě realistické manipulace médií jsou pravděpodobně schopny změnit volební výsledky po celém světě.
Ať už se vydáváme skrze klíčové volby roku 2024 a dál, je nezbytné, aby byla podniknuta opatření k řešení výzev, které představují AI generované hluboké fake. Ochrana integrity voleb a boj proti dezinformacím vyžaduje kolektivní úsilí volebních úředníků, zpravodajských organizací, platforem sociálních médií a jednotlivců po celém světě.
Často kladené otázky:
1. Co jsou hluboké fake?
Hluboké fake jsou digitálně upravená média, jako jsou videa a zvukové záznamy, které pomocí umělé inteligence napodobují skutečné lidi a události.
2. Jak mohou AI generované hluboké fake ovlivnit volby?
AI generované hluboké fake mají potenciál šířit dezinformace a ovlivňovat voliče, potenciálně tak měnit volební výsledky.
3. Jaká opatření mohou být podniknuta proti hrozbě AI generovaných hlubokých fake?
Odborníci navrhují vytváření digitálních otisků pro hlasy a obrazy, podobně jako technologie rozpoznávání obličejů, stejně jako kladení odpovědnosti na sociální média za ověřování obsahu, který hostují.
Zdroje:
– Pro více informací o AI generovaných hlubokých fake, navštivte: example.com
– Chcete-li se dozvědět o výzvách boje proti AI generovaným dezinformacím, navštivte: example.com
The source of the article is from the blog queerfeed.com.br