Jak se blíží předvolební období v Texasu, rostou obavy o vliv umělé inteligence (AI) na šíření dezinformací ve volbách. Nedávné incidenty s robokaly s umělou inteligencí, které napodobují hlas prezidenta Joea Bidena, vyvolaly vyšetřování a vznesly otázky ohledně potenciálního dopadu AI na volby v roce 2024. Státní zákonodárná sbory po celé zemi nyní zvažují opatření k zákazu nebo regulaci obsahu voleb generovaného umělou inteligencí.
Použití AI v kampaních dezinformací poukazuje na naléhavou potřebu regulací, které by tuto technologii řídily. Zelly Martin, asistentka výzkumu na University of Texas v Austinu, zdůrazňuje důležitost kritického zkoumání těchto obav, aniž by se propadali panice. Varuje však, že bez omezení má AI potenciál stále přesvědčivějšího podvádění a zamlžování hranice mezi skutečností a fikcí.
Cybersecurity & Infrastructure Security Agency (CISA) zveřejnila studii, ve které je popsáno různorodé a zákeřné využívání generativní AI. Deepfake videa a falešné sociální média vytvořená pomocí AI generovaných fotografií jsou jen některé příklady hrozeb spojených s touto technologií. Rozšíření dezinformačních kampaní řízených umělou inteligencí může ovlivnit veřejné vnímání a zkreslit pravdu.
Jedním z hlavních výzev při regulaci AI je obtížné odlišení skutečného obsahu od manipulovaných nebo falešných informací. Deepfake videa můžou téměř znemožnit rozlišení mezi skutečnými a falešnými prohlášeními politických představitelů, jako je prezident Biden. Proto se stává zásadním spoléhat se na spolehlivé zdroje a provádění kontroly faktů.
Studie také poukazuje na možnost využití AI k vytváření malwaru, který uniká detekčním systémům, a k vytváření přesvědčivých falešných volebních záznamů. Technologie klonování by mohla být použita k podvržení volebních úředníků a získání přístupu k citlivým informacím. Tyto schopnosti vyvolávají vážné obavy ohledně bezpečnosti a integrity volebního procesu.
Přes rostoucí povědomí o nebezpečích spojených s AI a dezinformacemi, pokroky v legislativních opatřeních byly pomalé a nedostačující. Zatímco Texas se stal prvním státem, který zakázal deepfake videa s cílem ovlivnit volby, stále chybí širší regulace týkající se AI. Umělá-inteligence- poradní rada v Texasu má za úkol dohlížet na použití této technologie a navrhovat legislativní změny, ale dosažený pokrok byl omezený.
Na federální úrovni se Kongres potýká s obtížemi při přijímání smysluplných legislativních opatření k regulaci AI a boji proti šíření dezinformací. Martin pochybuje, zda se zákonodárcům podaří efektivně se vypořádat s těmito otázkami, s ohledem na jejich předchozí potíže s regulací sociálních médií. Vzdělání je považováno za částečné řešení, ale není bez chyb.
Pro snížení dopadu dezinformací řízených umělou inteligencí je zásadní, aby politici, odborníci na technologie a veřejnost spolupracovali na vytvoření komplexních regulačních rámů. Preventivní opatření, která podporují transparentnost, zvyšují kyberbezpečnost a rozvíjejí dovednosti kritického myšlení, jsou klíčová pro ochranu integrity budoucích voleb.
The source of the article is from the blog mendozaextremo.com.ar