Kevin TopolskyV politickej oblasti rastúce využívanie technológie umelej inteligencie (AI) vyvoláva rozsiahle obavy a obavy, keď sa blíži prezidentské voľby v USA v roku 2024.
Niekoľko nedávnych prípadov AI-generovanej dezinformácie vyvolalo verejnú diskusiu, pričom narastajú obavy, že by to mohlo mať významné dôsledky na nadchádzajúce voľby. Medzi významné príklady patrí deepfake video predstierajúce vicprezidentku Kamalu Harrisovú, upravený záznam prezidenta Bidena s explicitným jazykom a manipulovaný obrázok Trumpa, ako je zatknutý.
Odborníci varujú, že technológia AI by sa mohla využiť na zavádzanie voličov, ovplyvňovanie ich volebných zámerov alebo dokonca na odstrašenie ich od hlasovania celkom počas nadchádzajúcich volieb, čo by mohlo ešte zintenzívniť už hlboké spoločenské rozdelenia v Spojených štátoch.
Na reakciu na túto novovznikajúcu hrozbu sa čoraz viac volá na technologické giganty, aby uplatňovali prísnejšie kontroly. Zatiaľ čo mnohé spoločnosti zmiernili moderovanie obsahu na sociálnych médiách, existuje narastajúci dopyt po zavedení prísnejších mechanizmov riadenia AI pred voľbami.
Minulý týždeň zdieľal šéf Tesly Elon Musk deepfake video Kamaly Harris na svojej platforme X, kde falzifikovaný hlas Harrisovej tvrdil, že Biden trpí demenciou a prejavoval nekompetentnosť pri vedení krajiny. Video chýbalo explicitné označenie ako satira, obsahovalo iba smejúce sa emoji. Musk neskôr objasnil, že to bolo myslené ako satirický kúsok. Výskumníci obávajú, že diváci by mohli nesprávne pochopiť toto ako autentickú sebakritiku Harrisovej a kritiku Bidena.
Používanie AI-generovanej dezinformácie predstavuje hlboké obavy, najmä vo vytváraní vizuálov a videí s cieľom vyvolávať hnev a zintenzívňovať stranícke rozdiely v politike. Hoci znepokojujúce, častejším scenárom môže byť vytvorenie obsahu špeciálne navrhnutého na vyvolanie odporu a zvýšenie straníckej polarizácie.
Okrem toho sa objavili prípady AI-podporovaných automatických telefonátov predstierajúcich politické postavy s cieľom odradiť voličov od účasti. Prieskum ukázal, že viac než polovica Američanov verí, že AI-generovaná dezinformácia ovplyvní výsledok volieb v roku 2024, pričom asi tretina prejavuje zníženú dôveru volebným výsledkom ako dôsledok.
Viaceré technologické spoločnosti potvrdili vývoj systémov označovania obsahu AI. Okrem toho viac ako 200 obhajcovských organizácií naliehajú na naliehavé opatrenia na boj proti AI dezinformáciám, vrátane návrhov zákazu použitia technológie deepfake v politickom reklamnom priemysle.
Regulačné orgány upozorňujú, že súčasné online prostredie je nasýtené falošnými informáciami, čo predstavuje riziko zmätenia voličov. Apelujú na platformové spoločnosti, aby urýchlili vylepšenie príslušných politík na riešenie problémov, ktoré predstavujú deepfaky a podobné záležitosti.
