Kevin TopolskyV političnem svetu naraščajoča uporaba tehnologije umetne inteligence (AI) vzbuja široko zaskrbljenost in strah, saj se bližajo predsedniške volitve ZDA leta 2024.
Številni nedavni primeri AI-generirane dezinformacije so sprožili javno razpravo, pri čemer narašča strah, da bi to lahko imelo pomembne posledice za prihajajoče volitve. Opazni primeri vključujejo globoko ponarejen video, v katerem se je podpredsednica Kamala Harris delala, izrezan posnetek predsednika Bidna, v katerem uporablja izraze, in manipulirana slika Trumpa med aretacijo.
Strokovnjaki opozarjajo, da bi se lahko tehnologija AI uporabljala za zavajanje volivcev, vplivanje na njihove volilne namere ali celo odvračanje od glasovanja med predstoječimi volitvami, kar bi lahko še poslabšalo že globoke družbene delitve v Združenih državah.
V odziv na to naraščajočo grožnjo se glasovi vse bolj zavzemajo za strožje kontrole velikanov tehnološke industrije. Čeprav so mnoga podjetja zmanjšala moderiranje vsebine na družbenih omrežjih, obstaja vse večja zahteva po vzpostavitvi strožjih mehanizmov za upravljanje z AI pred volitvami.
Prejšnji teden je direktor Tesle Elon Musk delil deepfake video Kamale Harris na svojem platformi X, v katerem izmišljena Harrisova trdi, da Biden trpi za demenco in je nesposoben vodenja države. Video ni imel eksplicitne oznake kot satira, vseboval je le smejoči se emoji. Musk je kasneje pojasnil, da je bil namenjen kot satiričen prispevek. Raziskovalci se bojijo, da bi gledalci to lahko napačno razumeli kot avtentično samokritiko in kritiko Bidna s strani Harris.
Uporaba AI-generirane dezinformacije predstavlja vedno večje skrbi, s posebno tendenco v propagiranju vizualov in videoposnetkov, namenjenih vzburjanju jeze in stopnjevanju strankarskih delitev v politiki. Čeprav zaskrbljujoče, je morda pogostejši scenarij izdelovanje vsebine, posebej zasnovane za sprožanje obupa in krepitev strankarske polarizacije.
Poleg tega so se pojavili primeri AI-generiranih avtomatiziranih telefonskih klicev v vlogah političnih osebnosti, s katerimi poskušajo odvrniti volivce od sodelovanja. Anketa je pokazala, da več kot polovica Američanov verjame, da bo AI-generirana dezinformacija vplivala na izid volitev leta 2024, pri čemer je približno tretjina izrazila zmanjšano zaupanje v volilne rezultate kot posledico.
Več tehnoloških podjetij je potrdilo razvoj sistemov za označevanje vsebine AI. Poleg tega več kot 200 zagovorniških organizacij poziva k nujnim ukrepom za boj proti AI dezinformacijam, vključno z predlogi za prepoved uporabe tehnologije deepfake v političnem oglaševanju.
Regulativna telesa opozarjajo, da je trenutno spletno okolje prepojeno z lažnimi informacijami, kar predstavlja tveganje za zmedo med volivci. Zagovarjajo, da morajo podjetja s platformami pospešiti izboljšanje relevantnih politik za reševanje izzivov, ki jih povzročajo deepfakes in podobne težave.
