Ein innovativ AI-val vallstracker ønskjer å granske kunstig intelligens si skadelege rolle i global valsmisinformasjon, med fokus på land utanfor den vestlege halvkula mens verda gjer seg klar for avgjerande val i 2024. Gjennom året skal viktige valshendingar finne stad, inkludert Europaparlamentsvalet i juni og presidentvalet i USA i november.
Den ikkje-profittorganisasjonen Rest of World leier dette sporet, som overvåkar hendingar der AI har blitt brukt til å lage og sirkulere manipulert innhald i ein valkontekst. Døme inkluderer falske støtteerklæringar frå kjendisar som Eminem for eit sørafrikansk opposisjonsparti og deepfake-videoar av Trump som gjer usanne lovnadar om ein pakistansk leder sin frigjeving frå fengsel. Vala i Bangladesh, Pakistan, Indonesia og Taiwan har allereie funne stad, med India som no stemmer og komande val i Mexico, Sør-Afrika og andre land.
Rest of World forklarer føremålet med initiativet å dokumentere ulike hendingar der AI vart implicert, anten gjennom innhald produsert av kandidatar, ondsinna aktørar eller tredjepartar. AI-valstrackeren dekker eit spekter av manipulert innhald, inkludert lyd, foto, videoar og tekstar. Prosjektet har samla eit utval døme frå 2024, og planlegg å halde fram anstrengingane gjennom heile året, gitt det høge varselet for potensielle skadar frå desinformasjon som vart understreka tidleg i året av organ som Verdsøkonomiforumet og som vart stipulert i retningslinjene til Den europeiske unionen for store nettplattformar.
Viktige spørsmål og utfordringar
Spørsmålet om å spore AI-generert misinformasjon i globale val reiser fleire avgjerande spørsmål og utfordringar som må takast tak i.
1. Korleis påverkar AI-generert misinformasjon veljaratferd?
AI-generert misinformasjon kan manipulere veljarpersepsjonar, skape falske forteljingar eller undergrave tilliten til valprosessen. I kva grad slik misinformasjon påverkar veljaratferd er ei betydeleg bekymring, spesielt i tett stridige val.
2. Kva metodar kan effektivt oppdage og motverke AI-generert misinformasjon?
Tidleg oppdagelse og avgrensing av AI-generert innhald er sentrale utfordringar. Forskarar utviklar avanserte maskinlæringsmodellar for å identifisere deepfakes og anna forfalska innhald, men å halde tritt med den stadig skiftande AI-landskapet er vanskeleg.
3. Kva er dei etiske implikasjonane av å bruke AI i valkontekstar?
Bruken av AI i val berører større etiske omsyn om personvern, ytringsfridom og retten til å motta nøyaktig informasjon. Reguleringar og rammeverk må finne ein balanse mellom innovasjon og etiske standardar.
4. Korleis kan internasjonalt samarbeid fremjast for å motverke AI-misinformasjon globalt?
Misinformasjon respekterer ikkje grenser, så internasjonalt samarbeid er essensielt. Men ulike rettssystem og normar skapar komplekse scenarioer for koordinerte reaksjonar.