Umjetna inteligenca (AI) spreminja svet volitev, vendar hkrati predstavlja pomembna tveganja za demokratične procese. Ko se bližajo ameriške volitve leta 2024, so skrbi glede AI-generirane dezinformacije, deepfake posnetkov in zavajajočih medijev bolj prisotne kot kdaj koli prej. Na srečo vlade in tehnološka podjetja prepoznavajo potrebo po ukrepanju, vendar je treba storiti še veliko, da bi zaščitili demokracijo.
Nedavna varnostna konferenca v Münchnu je združila vodilna podjetja, vključno z OpenAI, Apple, Meta, Microsoft, TikTok, Google in drugimi, da bi naslovila izzive, ki jih AI predstavlja na volitvah. Zagotovili so, da bodo sprejeli ukrepe za sledenje izvoru vsebine, ki jo ustvarja AI, zaznavanje zavajajočih medijev in uvedbo previdnostnih ukrepov proti trikovom, ki jih poganja AI. Čeprav so ti zaveze korak v pravo smer, je uspeh odvisen od njihove učinkovite izvedbe.
Prihod tehnologije generativne AI omogoča prevarantom ustvarjanje neverjetno realističnih lažnih slik, posnetkov in zvokov kandidatov in uradnikov. Te stvaritve se lahko hitro širijo, z minimalnimi stroški in v velikem obsegu. Poleg tega omogočajo AI-pogonjeni chatboti ustvarjanje lažnih spletnih strani z volitvami ter zavajajočih novičarskih spletišč v nekaj sekundah. Ta sposobnost zagotavlja slabim igralcem, tako domačim kot tujim, sredstva za izvajanje vplivnih kampanj, ki jih je težko slediti.
Vključitev generativne AI v iskalnike in chatbote je privedla do primerov, ko so volivci, ki iščejo informacije o volitvah, soočeni z dezinformacijami ali usmerjeni na obrobne spletne strani. Študije so pokazale, da priljubljena orodja AI pogosto slabo delujejo pri nekaterih vprašanjih, povezanih z volitvami. Poleg tega lahko tradicionalne AI-tehnologije prispevajo k izzivom pri določanju volilne sposobnosti, kar lahko vodi v napačne brisanje s seznama volivcev.
V odziv na te izzive so AI-podjetja, kot je OpenAI, izvedla politike za omilitev škod, povezanih z volitvami. OpenAI je prepovedal uporabnikom ustvarjanje AI-chatbotov, ki bi se predstavljali za kandidate in širili laži o volitvah. Poleg tega so sprejeli korake za šifriranje slik, da bi odkrili vsako nepooblaščeno uporabo. Kljub temu imajo ti ukrepi še vedno omejitve in treba je storiti več.
Eden ključnih vidikov, ki potrebuje pozornost, je odpravljanje lažnih pripovedi in prikazov, ki so zaznamovali prejšnje volilne cikle. Politike OpenAI ne prepovedujejo eksplicitno ustvarjanja in širjenja vsebine, ki lažno prikazuje volilno vmešavanje, nezanesljive volilne stroje ali obsežne volilne goljufije. Izrecna prepoved na teh področjih bi zagotovila večjo jasnost in zaščito za volivce.
Sodelovanje z razvijalci tretjih oseb je še eno področje, ki zahteva pozornost. Ko tretje iskalnike uporabljajo modele OpenAI, so odgovori, ki jih nudijo, lahko netočni ali zastareli. Strožji zahtevki za partnerstva in vključevanje modelov OpenAI v iskalnike in digitalne platforme bi bolje zaščitili volivce, ki iščejo informacije o volitvah.
OpenAI teh izzivov ne More sam obravnavati. Tudi druga velika tehnološka podjetja morajo objaviti svoje lastne volilne politike za generativne AI-orodja in biti pregledni glede svojih praks. Standard za vgrajevanje vsebine z digitalnimi oznakami Koalicije za vsebino porekla in pristnosti bi moral biti široko sprejet.
Pogosto zastavljena vprašanja
1. Kako vpliva AI na volitve?
AI se lahko uporabi za ustvarjanje ponarejenih medijev, kot so slike, posnetki in zvok, kandidatov in uradnikov. Lahko tudi ustvarja zavajajoče informacije, širi dezinformacije in izvaja vplivne kampanje.
2. Kakšni ukrepi se izvajajo za zaščito volitev pred tveganji, povezanimi z AI?
Vlade in tehnološka podjetja sodelujejo pri sledenju izvirniku vsebine, ki jo ustvarja AI, zaznavanju zavajajočih medijev in uvedbi previdnostnih ukrepov za omilitev trikov, ki jih poganja AI. Kljub temu so potrebni dodatni napori.
3. Kako AI-tehnologije prispevajo k integriteti volitev?
AI-tehnologije lahko prispevajo k dezinformacijam, izzivom glede volilne sposobnosti in širjenju lažnih pripovedi. Prav tako lahko ponujajo zavajajoče informacije prek iskalnikov in chatbotov.
4. Kako OpenAI rešuje škodo, povezano z volitvami?
OpenAI je uvedel politike, da bi preprečil ustvarjanje AI-chatbotov, ki se pretvarjajo za kandidate, in širjenje lažnih informacij o glasovanju. Prav tako so sprejeli korake, da bi zaščitili nepooblaščeno uporabo slik.
5. Kaj lahko druge tehnološke družbe storijo za zaščito volitev?
Tehnološka podjetja bi morala objaviti svoje lastne volilne politike za generativne AI-orodja. Preglednost in sodelovanje sta ključna pri reševanju izzivov, s katerimi se soočajo AI na volitvah.
(Viri: [delor.com], [source2.com])
The source of the article is from the blog rugbynews.at