Demokratiet møter en nyansert trussel når kunstig intelligens-teknikker, spesielt de som er i stand til å generere overbevisende menneskelignende tekster, bilder og videoer, i økende grad blir brukt i valg og offentlig diskurs. Mens verden forbereder seg på et år der over 40% av den globale befolkningen vil avlegge sin stemme, er det stille bekymring blant myndighetspersoner om den tilsynelatende usynlige trusselen fra AI.
I motsetning til den oppsiktsvekkende ikke-forekomsten av AI-indusert kaos i nylige valg i Indonesia og Pakistan, er det en økende anerkjennelse av teknologiens potensial for subtil innblanding. Fryktene har ennå ikke materialisert seg til påvisbare virkninger, men eksempler som genererende AI-verktøy som massemproduserer litt varierende meldinger gjør dem vanskeligere å oppdage, lignende en høyteknologisk versjon av overbevisende kampanjer som har plaget sosiale medieplattformer tidligere.
Subtiliteten til AI-generert desinformasjon ligger i mangfoldet, slik Josh Lawson, tidligere risikosjef hos Meta Platforms Inc., nå rådgiver om sosiale medier-strategier, påpeker. Mens mye av diskursen om AI har fokusert på deepfakes og visuelle elementer, understreker Lawson at tekstdrevne desinformasjonskampanjer kan være langt mer skalerbare og vanskeligere å spore.
Meta’s WhatsApp kan potensielt fasilitere slike operasjoner med funksjoner som «Kanaler» som kan sende til store publikum. Dette gjør det mulig for selv mindre sofistikerte aktører å spre desinformasjon, for eksempel ved å gi feilinformasjon til samfunnene om stemmelokalenes forhold for å undertrykke valgdeltakelsen.
Den bredere innvirkningen på samfunnet involverer også den generelle offentligheten, der over halvparten av amerikanere og en fjerdedel av britiske borgere allerede eksperimenterer med AI-verktøy. Denne demokratiseringen av teknologi betyr at hverdagsmennesker uvitende kan bli bærere av desinformasjon.
I et forsøk på å bekjempe disse utfordringene, har Meta begynt å merke AI-generert innhold på Facebook og Instagram, selv om denne strategien risikerer å skape en falsk trygghet der umerket innhold antas å være ekte.
Videre kan meldingsplattformer som WhatsApp bli viktige slagmarker for AI-drevet desinformasjon, slik vi så under Brasils valg i 2018. Tydeligere retningslinjer for innhold kan gi selskaper som Meta muligheten til å proaktivt bekjempe misbruk av AI i valginnblanding, på samme måte som de spesifikke retningslinjene som er på plass for Facebook og Instagram angående manipulering av velgerne.
Når grensen mellom syntetisk støy og meningsfull signal blir utydelig, må teknologiselskaper og myndigheter forbli årvåkne. Fraværet av åpenbare AI-forstyrrelser i valg signaliserer ikke sikkerhet; heller betoner det behovet for beredskap overfor en diskret men betydelig motstander.