Användningen av artificiell intelligens (AI) vid valpåverkan är ett växande globalt bekymmer, där Kina framträder som en nyckelspelare på detta område. Microsoft har nyligen utfärdat en varning att Kina troligtvis kommer att använda AI för att störa högprofilerade val i flera länder, inklusive Förenta staterna, Sydkorea och Indien. Detta följer på en lyckad testkörning under presidentvalet i Taiwan. Även om AI-genererat innehålls påverkan på att forma allmänhetens åsikter hittills har varit relativt liten, varnar Microsoft att Kinas ökande experiment i detta fält skulle kunna få betydande konsekvenser i framtiden.
Kinas statligt stödda cyberrupper, tillsammans med nordkoreanska aktörer, förväntas rikta in sig på de kommande valen, enligt rapporten från Microsofts hotintelligensteam. Företaget förutspår att Kina åtminstone kommer att skapa och sprida AI-genererat innehåll via sociala medieplattformar för att gynna sina positioner i dessa politiskt betydelsefulla val.
Kinas tidigare försök till en AI-genererad desinformationskampanj under det taiwanesiska presidentvalet i januari visade potentialen för denna strategi. Till exempel använde en av Peking-stödd grupp känd som Storm 1376 AI-genererat innehåll för att påverka valet. De publicerade en fejkad ljudklipp på YouTube, påstått godkänt av en kandidat som hade dragit sig tillbaka från loppet. Klippet togs snabbt bort av YouTube innan det nådde en stor publik. Dessutom använde gruppen AI-genererade memes och AI-drivna TV-nyhetsankare för att sprida obefogade påståenden mot specifika kandidater. Liknande taktiker har använts av andra länder som Iran.
Microsofts rapport belyser också kinesiska inflytelsekampanjer i Förenta staterna. Dessa kampanjer inkluderar användningen av sociala mediekonton för att ställa uppdelande frågor och samla underrättelser om de frågor som delar de amerikanska väljarna. Genom detta får de värdefull inblick i viktiga väljarsegment inför det amerikanska presidentvalet.
Användningen av AI-genererat innehåll vid valpåverkan ställer allvarliga utmaningar för att skydda integriteten i demokratiska processer över hela världen. Det är avgörande för regeringar, teknikföretag och medborgare att förbli vaksamma, främja digital kompetens och genomföra robusta cybersäkerhetsåtgärder.
Frågor och svar:
Vad är AI-genererat innehåll?
AI-genererat innehåll avser digitala medier, såsom artiklar, bilder, ljud och videor, skapade med hjälp av artificiella intelligensalgoritmer. Dessa algoritmer tränas på befintlig data och kan generera nytt innehåll som liknar mänskligt skapat material.
Hur kan AI-genererat innehåll påverka val?
AI-genererat innehåll kan användas i desinformationskampanjer för att manipulera allmänhetens åsikter och så splittring. Genom att skapa och sprida vilseledande eller falsk information via sociala medier och andra kanaler kan skadliga aktörer påverka väljarnas beteende, underminera kandidater och störa den demokratiska processen.
Vilka åtgärder kan vidtas för att motverka AI-driven valpåverkan?
Att adressera AI-driven valpåverkan kräver en mångfacetterad strategi, vilket innebär samarbete mellan regeringar, teknikföretag och medborgare. Detta inkluderar att förbättra cybersäkerhetsåtgärder, höja medvetenheten om desinformationsmetoder, främja mediekunskap och säkerställa transparens i politisk reklam och kampanjfinansiering.
(Källor: Microsoft Threat Intelligence Report, The New York Times)
The source of the article is from the blog xn--campiahoy-p6a.es