Kevin TopolskyV politické sféře roste používání technologie umělé inteligence (AI), což vyvolává široké obavy a nervozitu vzhledem k nadcházejícím prezidentským volbám v USA v roce 2024.
Řada nedávných případů AI-generované dezinformace vyvolala veřejnou debatu a obavy, že by to mohlo mít významné dopady na nadcházející volby. Mezi významné příklady patří deepfake video sicející Viceprezidentku Kamalu Harrisovou, upravený klip Prezidenta Bidena s vulgárním jazykem a manipulovaný obrázek Trumpa při zatýkání.
Odborníci varují, že technologie AI by mohla být využita k zavádění voličů, ovlivňování jejich volebních záměrů nebo dokonce k jejich odrazování od účasti ve volbách během blížících se voleb, což by mohlo prohloubit již hluboké společenské rozdíly ve Spojených státech.
V reakci na tuto se objevující hrozbu se hlasitě volá po technologických gigantech, aby prosazovaly přísnější kontroly. Zatímco mnoho společností omezilo moderaci obsahu na sociálních médiích, roste poptávka po stanovení přísnějších mechanismů řízení AI před volbami.
Minulý týden sdílel CEO Tesly Elon Musk deepfake video Kamaly Harrisové na své platformě X, kde falešným hlasem tvrdil, že Biden trpí demencí a projevoval neschopnost vést národ. Video nebylo explicitně označeno jako satira, obsahovalo pouze úsměv. Musk později upřesnil, že bylo zamýšleno jako satirický kousek. Výzkumníci se obávají, že diváci by to mohli nepochopit jako autentické sebeironie Kamaly Harrisové a kritiku Bidena.
Použití AI-generované dezinformace představuje stále větší obavy, s tendencí propagovat vizuální prvky a videa s cílem vyvolat zlost a zintenzivnit stranické rozdíly v politice. I když znepokojivé, stále častější scénář může zahrnovat vytváření obsahu specificky navrženého k vyvolání rozhořčení a zvýšení stranické polarizace.
Kromě toho se objevily příklady AI-poháněných automatizovaných telefonátů, které se vydávaly za politické osobnosti s cílem odradit voliče od účasti. Průzkum ukázal, že více než polovina Američanů věří, že AI-generovaná dezinformace ovlivní výsledek voleb v roce 2024, a zhruba třetina vyjádřila sníženou důvěru v volební výsledky jako důsledek toho.
Několik technologických společností potvrdilo vývoj systémů označování obsahu AI. Kromě toho více než 200 advokačních organizací naléhá na naléhavé opatření proti AI-dezinformacím, včetně návrhů na zákaz použití technologie deepfake v politické reklamě.
Regulační orgány varují, že současný online prostředí je přesycené falešnými informacemi, což představuje riziko zmatku mezi voliči. Prosazují, aby platformní společnosti urychlily vypracování relevantních politik k řešení výzev týkajících se deepfake a podobných problémů.
Eskaluující obavy ohledně AI-generované dezinformace v politickém diskurzu
Když se stín AI-generované dezinformace tyčí jako velký duch nad politickou scénou, neustále se objevují nové vrstvy složitosti a rizika. Kromě dříve zdůrazněných případů zneužití AI se objevuje klíčová otázka: Jak můžeme rozlišit autentický obsah od AI-generovaných fikcí v oblasti politického diskurzu?
Jedním z klíčových výzev boje proti AI-generované dezinformaci je rychle se vyvíjející sofistikovanost algoritmů AI, která činí detekci stále obtížnější. Schopnost AI přizpůsobovat se a učit se z každého šíření falešných informací představuje velkou překážku v boji proti zavádějícím obsahům v politickém sdělování.
Jedním z nejpalčivějších kontroverzí spojených s rozšířením AI v dezinformacích je etický dilema týkající se regulace svobody projevu. Zatímco je zapotřebí omezit šíření nepravd a deepfake, existují obavy ohledně potenciálního zasahování do svobody projevu a práva na politický diskurz bez nadměrné cenzury.
Výhody AI v politickém diskurzu lze nalézt v jejím potenciálu zjednodušit šíření informací a zlepšit efektivitu komunikace. Od analýzy rozsáhlých datových sad až po personalizované zprávy mohou nástroje AI nabídnout cenné poznatky a strategie zapojení. Nicméně zneužití AI pro dezinformace ohrožuje důvěru v demokratické instituce a může siahat mezi občany.
Na druhé straně jsou nevýhody AI-generované dezinformace hluboké a rozsáhlé. Od podkopání integrity voleb po prohlubování společenských dělen, zlomyslný záměr za takovými obsahy má moc narušit samotnou podstatu demokracie. Kromě toho psychologický dopad na jednotlivce vystavené klamavým politickým narrativům může vést k polarizaci a porušení občanského diskurzu.
Pro hlubší zkoumání tohoto téma a prozkoumání možných řešení mohou čtenáři sledovat renomované zdroje jako World Economic Forum a Brookings Institution. Tyto organizace nabízejí komplexní názory a analýzy ohledně hrozeb AI-generovaných dezinformací a naléhavé potřeby společných úsilí k řešení tohoto kritického problému.
