V roku 2024 sa budú konať mnohé voľby po celom svete, čo vyvoláva obavy o vplyv umelej inteligencie (AI) na demokratické procesy. Aj keď sa v minulosti vyskytli prípady vyvolania poplachu generovaným obsahom AI, je dôležité zdôrazniť, že tieto incidenty boli rýchlo vyvrátené a nenašli podporu v renomovaných médiách, ktoré by mali väčší vplyv.
V súčasnosti je generatívna AI schopná vytvárať presvedčivé, ale krátkodobé falošnosti. Okrem toho šírenie informácií, dezinformácií a nepravdivých informácií typicky vyžaduje pútavú naratívnu zložku, aby bolo skutočne ohrozujúce. Napríklad konšpiračné teórie ako Pizzagate a QAnon úspešne ovplyvňovali verejnú diskusiu aj bez pomoci AI. Efektívnosť obsahu generovaného AI pri ovplyvňovaní volieb preto pravdepodobne závisí od školených ľudských operátorov s multidimenzionálnymi znalosťami.
Okrem toho fragmentovaná povaha súčasnej mediálnej ekosystému, najmä sociálnych sietí, obmedzuje potenciálny vplyv generatívnej AI na voľby. Keď sa používateľské komunity rozptyľujú na rôznych platformách, škodlivý obsah dosahuje stále menšie kúty internetu. Aj keď to môže sťažiť detekciu a vysvetlenie takýchto fenoménov, zároveň to znižuje celkový vplyv.
Tieto faktory – krátkodobosť väčšiny AI falošností, potreba prepojenia ich s širšími naratívmi a fragmentácia distribúcie informácií – slúžia ako počiatočné ochranné opatrenia proti potenciálnym škodám spôsobeným generatívnou AI vo voľbách.
Je však kľúčové nespoliehať sa iba na tieto existujúce ochrany. Namiesto toho je potrebné implementovať preventívne opatrenia, ktoré dávajú prednosť demokracii a voľbám ako ľudským aktivitám pre ľudí. Nadmerná personalizácia prostredníctvom AI, sociálnych médií alebo platených reklám vo volebných kampaniach by mala byť obmedzená, aby sa kandidáti neohýbali pred individuálnymi voličmi. Udržiavanie transparentnosti online identít je tiež dôležité, s výnimkou prípadov, keď anonymita je potrebná pre účely hlasovania. Voliči by mali mať jasnú predstavu o tom, kto stojí za obsahom, s ktorým sa stretávajú, vrátane obsahu generovaného AI.
Okrem toho musia sociálne médiá zohrávať aktívnu úlohu pri boji proti potenciálnemu zneužitiu generatívnej AI. Mali by informovať používateľov o obsahu generovanom AI, monitorovať masovú manipuláciu, zabrániť koordinovanému AI obťažovaniu a umožniť nezávislé výskumy a audity svojich systémov.
Nakoniec sa spoločnosť musí spojiť v odporu proti akýmkoľvek pokusom o podkopávanie demokracie, ktoré často vychádzajú zvnútra. Je nevyhnutné stanoviť vyšší štandard a odsúdiť politikov a kampane, ktoré klamú občanov pomocou AI. Aj keď nadšenie okolo AI môže pretrvávať, je dôležité, aby sme dávali prednosť integrite demokracie pred pokrokom v oblasti AI.
The source of the article is from the blog revistatenerife.com