Att använda artificiell intelligens (AI) för att skapa och sprida innehåll om politiska kandidater är en helt ny trend i de globala valkampanjerna inför 2024. Denna företeelse inkluderar framtagning och delning av offentliga meddelanden samt potentiell manipulation av valprocesser före, under och efter valet.
Oron över AI-genererat falskt innehåll, som deepfakes, ökar. Campaign Legal Center (CLC) i USA har varnat för de farliga konsekvenserna av politiska annonser som använder AI för att skapa hyperrealistiska deepfakes. Dessa deepfakes kan vilseleda allmänheten gällande kandidaternas påståenden, deras ställningstaganden i frågor eller till och med skeendet av vissa händelser, vilket äventyrar väljarnas rätt att fatta informerade beslut.
AI:s inflytande sträcker sig bortom att bara forma allmänhetens uppfattning om kandidaterna. Det kan även användas för att störa valprocessen genom spridning av desinformation som syftar till att minska valdeltagandet. Oseriösa aktörer kan skapa och sprida övertygande men falska meddelanden om vallokaler och tider eller avråda helt från att delta.
Till exempel fick väljare inför primärvalet i New Hampshire 2024 i USA, AI-genererade samtal där någon imiterade president Biden och felaktigt uppmanade dem att inte delta i valet, vilket vilseledande antydde att de istället ”reserverade” sina röster till det allmänna valet i november.
En förnuftig väljare som hör ett sådant meddelande kan tro att det verkligen var president Biden som spelade in samtalet och känna sig tvingad att följa uppmaningen, vilket i själva verket äventyrar deras rätt att rösta. Detta exempel illustrerar potentialen för andra fabricerade berättelser som kan avskräcka från deltagande i samhällsfrågor, minska väljarnas kompetens eller felaktigt varna för nödlägen, vilket kan leda till minskat valdeltagande på valdagen.
AI-teknologin öppnar möjligheter för oseriösa aktörer att underminera valadministrationen eller obefogat ifrågasätta valresultatet. Den kan lätt användas för att fabricera falska bilder och bevis – till exempel att manipulera eller förstöra röstkort – vilket inte bara undergräver allmänhetens förtroende för valresultaten utan också kan uppvigla till våld mot valadministratörer.
Viktigaste frågorna:
– Hur kan vi upptäcka och förhindra AI-genererad desinformation i val?
– Vilka åtgärder kan genomföras för att skydda väljarnas rätt till korrekt information?
– Hur balanserar vi fördelarna med AI i politiska kampanjer mot riskerna med desinformation?
Svar på de viktiga frågorna:
Att upptäcka AI-genererad desinformation innebär att utveckla avancerade verktyg som kan analysera innehåll efter tecken på manipulation. Dessutom är kampanjer för allmän upplysning för att öka medvetenheten om deepfakes och främjande av mediekunnighet avgörande. Sociala medieplattformar och nyhetsorganisationer måste samarbeta med tekniska experter för att snabbt identifiera och stoppa spridningen av falsk information.
För att skydda väljare måste valkommissioner, regeringsorgan och sociala plattformar införa strikta regler för politiska annonser och användningen av AI. Det bör finnas krav på transparens som kräver offentliggörande av AI-genererat innehåll och åtgärder mot att sprida skadlig desinformation.
Att balansera fördelarna och riskerna kräver en nyanserad strategi. Medan AI kan bistå med att skapa mer engagerande och riktade politiska kampanjer, måste det användas på ett ansvarsfullt sätt. Lagstiftning, tillsammans med etiska riktlinjer för användning av AI inom politiken, kan hjälpa till att upprätthålla integriteten i informationen som delas under val.
Viktiga utmaningar eller kontroverser:
– Den snabba utvecklingen av AI-teknologi gör det svårt för regelverken att hålla jämna steg.
– Det kan finnas etiska frågor kring att begränsa yttrandefriheten vid försök att reglera AI-genererat innehåll.
– Den internationella karaktären av sociala medier komplicerar jurisdiktionen och genomförandet av lagar mot politisk desinformation.
Fördelar och nackdelar:
Fördelar:
– AI kan hjälpa kandidater att bättre förstå och nå väljare med skräddarsydda budskap.
– Kampanjer kan använda AI för att effektivt fördela resurser och analysera väljardata för att förbättra valstrategierna.
Nackdelar:
– AI-genererad desinformation underminerar demokratiska processer och allmänhetens förmåga att fatta informerade beslut.
– Det kan undergräva legitimiteten i val och öka politisk polarisering.
– Användningen av deepfakes och andra manipulativa taktiker kan leda till förtroendeförlust för valsystemet.
Relaterade länkar:
För uppdateringar om regleringar och initiativ mot digital desinformation kan du kontrollera följande:
– U.S. Federal Election Commission
– Europeiska unionen
Dessa länkar är huvuddomänerna för institutioner som kan ha relevanta åtgärder eller information angående kampen mot AI-genererad desinformation i val.