Med en stigende bekymring har Microsoft udsendt en advarsel om, at Kina er ved at forstyrre kommende valg i Indien, USA og Sydkorea ved at bruge kunstig intelligens (AI)-genereret indhold. Denne advarsel kommer, da Kina gennemførte en prøvekørsel under Taiwans præsidentvalg, hvor AI blev brugt til at påvirke valgets udfald.
Med mindst 64 lande, sammen med EU, der forventes at afholde nationale valg, der dækker næsten halvdelen af den globale befolkning, har Microsofts truslerintelligence-team identificeret kinesiske statsstøttede cybergrupper, sammen med involvering fra Nordkorea, som betydelige trusler mod flere valg planlagt til 2024. Disse gruppers hovedmål er at bruge AI-genereret indhold gennem sociale medieplatforme for at påvirke offentlig mening til fordel for deres interesser under disse valg.
Brugen af AI-teknologi i politiske reklamer bringer en betydelig trussel om at producere vildledende og falsk indhold, herunder deepfakes og fabrikerede begivenheder. Disse taktikker har til formål at føre offentligheden bag lyset om kandidaternes udtalelser, deres holdninger til forskellige emner og endda ægtheden af visse begivenheder. Hvis disse manipulerende forsøg forbliver urørlige, har de potentiale til at underminere vælgernes evne til at træffe velinformerede beslutninger.
Mens den umiddelbare virkning af AI-genereret indhold forbliver relativt lav, advarer Microsoft om den stigende eksperimentering, der udføres af Kina, hvilket kunne blive mere effektiv over tid. Kinas tidligere forsøg på at påvirke Taiwans valg involverede spredningen af AI-genereret desinformation, hvilket markerede første gang, hvor en statsstøttet enhed brugte sådanne taktikker i et fremmed valg. Under det taiwanske valg spredte en Beijing-støttet gruppe kendt som Storm 1376 AI-genereret indhold, herunder falske lyd-anbefalinger og memes, med det formål at diskreditere visse kandidater og påvirke vælgeropfattelser. Lignende taktikker er blevet brugt af Iran, herunder brugen af AI-genererede tv-nyhedsankere.
Kina har også ført indflydelseskampagner i USA ved at udnytte sociale medieplatforme til at stille splittede spørgsmål og indsamle efterretninger om centrale vælgerdemografier. Selvom der er lidt bevis for, at disse bestræbelser har været succesrige med at påvirke meninger, er der blevet øget brug af kinesisk AI-genereret indhold, der forsøger at påvirke og så splid om forskellige emner, herunder seneste begivenheder såsom togafsporingen i Kentucky, Maui-skovbrandene, bortskaffelse af japansk nukleart affald, narkotikabrug i USA, indvandringspolitikker og racemæssige spændinger i landet.
Truslen fra AI-genereret indhold strækker sig ud over USA og Taiwan. Op til 2024 New Hampshire Democratic primærvalgene genskabte et AI-genereret opkald præsident Joe Bidens stemme og rådede vælgerne mod at deltage i afstemningen, idet det falsk antydede, at præsident Biden selv havde anbefalet denne direktiv. Selvom der ikke er bevis for kinesisk deltagelse i denne konkrete sag, viser det, hvordan AI udgør en direkte trussel mod demokratiske praksis.
I takt med at Indiens generelle valg nærmer sig, har Den Indiske Valgkommission allerede givet retningslinjer og protokoller for hurtigt at identificere og reagere på falsk information og misinformation. OpenAI, udvikleren af ChatGPT, har også mødtes med ICI og redegjort for de foranstaltninger, der træffes for at forhindre misbrug af AI ved de kommende valg.
Kinas anvendelse af AI-genereret indhold til at påvirke globale valg udgør en betydelig trussel mod demokratiske processer. Mens teknologien fortsætter med at udvikle sig, er det afgørende for regeringer og organisationer over hele verden at være årvågne med at bekæmpe misinformation og sikre valgenes integritet.
Ofte Stillede Spørgsmål (FAQ)
Q: Hvad er AI-genereret indhold?
AI-genereret indhold refererer til tekst, billeder, lyd eller videoindhold skabt ved brug af kunstige intelligensalgoritmer. Disse algoritmer analyserer eksisterende data og mønstre for at generere nyt indhold, der kan se autentisk ud, men er helt computer-genereret.
Q: Hvordan udgør AI-genereret indhold en trussel ved valg?
AI-genereret indhold kan bruges til at producere vildledende og falsk information, herunder deepfakes og fabrikerede begivenheder, som har til formål at føre vælgere bag lyset. Dette kan underminere offentlighedens evne til at træffe velinformerede beslutninger og påvirke valgets resultat.
Q: Hvad er bekymringen vedrørende Kinas brug af AI-genereret indhold ved valg?
Kinas brug af AI-genereret indhold ved valg rejser bekymringer om udenlandsk indblanding og manipulation af offentlig mening. Kinesiske statsstøttede cybergrupper forventes at anvende AI-genereret indhold gennem sociale medieplatforme for at påvirke offentlig opfattelse til fordel for deres interesser under valg.
Q: Hvordan adresserer regeringer og organisationer truslen fra AI-genereret indhold ved valg?
Regeringer og organisationer implementerer foranstaltninger for at identificere og reagere på falsk information og misinformation hurtigt. De arbejder også på at udvikle politikker, retningslinjer og samarbejder med teknologiudviklere for at forhindre misbrug af AI ved valg og sikre demokratiske processers integritet.
(Kilde: BBC Technology)
The source of the article is from the blog macnifico.pt