V oblasti technologií se umělá inteligence (AI) představila znepokojivým vývojem známým jako deepfakes. Deepfake videa jsou AI-generovaná videa, která manipulují a mění akce a slova jednotlivců, rozmazávajíce hranice mezi realitou a fikcí. Vzestup deepfake videí představuje značnou hrozbu integrity volebního procesu, obzvláště vzhledem k nadcházejícím prezidentským volbám ve Spojených státech. Simona Vasyte, CEO AI společnosti Perfection42, varuje, že pokud nebudou kontrolovány, deepfake videa by mohla „ohrozit demokracii“ ve Spojených státech.
Šíření deepfake videí může podkopat demokratický proces šířením dezinformací a manipulací veřejného mínění. Tato videa mohou zfalšovat prohlášení politických kandidátů, vytvářejíce pochybnosti a zmatek mezi voliči těsně před volbami. Vasyte upozorňuje na nebezpečí potlačování mladých voličů, kdy by deepfake videa mohla potenciálně odradit mladé lidi od účasti ve volebním procesu. Tato manipulace by mohla mít značný dopad, zejména v těsně konkurenčních závodech.
Problém se stává ještě závažnějším, když vezmeme v úvahu zapojení zahraničních sil. Podle Vasyte by země jako Rusko mohly využít deepfake technologie k zasahování do amerických voleb. Tyto cizí aktéři by mohli prostřednictvím AI amplifikovat dezinformační kampaně, rozsévat nesvár a podkopávat důvěru veřejnosti v demokratický systém. Potenciální následky jsou dalekosáhlé, protože vliv AI na volební výsledky se stává každým rokem významnějším.
Konkrétní událost, na kterou odkázala Vasyte, zdůrazňuje nebezpečí deepfake. V březnu 2023 nahrála neznámá skupina, údajně hackeři, deepfake video ukrajinského prezidenta Volodymyra Zelenského, ve kterém instruoval své vojáky, aby přestali bojovat, na ukrajinské zpravodajské stránky. I když bylo video vyvráceno, obnovilo obavy o potenciální vliv deepfake na politiku. Tato událost slouží jako připomínka nutnosti se vypořádat s tímto problémem a chránit volební proces před zlomyslnými aktéry.
I když uznává pozitivní aplikace AI ve generování obsahu, Vasyte zdůrazňuje
The source of the article is from the blog mendozaextremo.com.ar