I en tid, hvor desinformation og skjulte indflydelsesoperationer er i konstant udvikling, har en række nylige undersøgelser af cybertrusler vist, at vi står over for et hastigt skift i landskabet. Store teknologivirksomheder, som f.eks. Microsoft, har kastet lys over kampagner med forbindelse til Kina, der har anvendt statsstøttede online indflydelsesoperationer til at sprede falsk information og potentielt påvirke valg. Disse kampagner, der primært opererer gennem falske konti på sociale medieplatforme, har fokuseret på opdelende nationale politiske spørgsmål for at få indblik i udenlandske vælgeres politiske holdninger.
Teknologien udvikler sig og kampagnerne benytter sig nu af generative AI-værktøjer, en ny teknik inden for online manipulation, der bruges til at skabe nyt indhold baseret på eksisterende data og mønstre. Disse teknikker udvider mulighederne for at skabe overbevisende falsk indhold, der spredes og manipulerer offentlig opinion.
Kinas stigende indflydelse på globale indflydelsesoperationer bekymrer amerikanske embedsmænd. Den kinesiske regering er blevet beskyldt for at investere milliarder årligt i en desinformationskampagne, der bruger forskellige taktikker til at fremme sine geopolitiske interesser og kvæle kritik af dens politikker. Dette, kombineret med stigende cyberangreb med forbindelse til Beijing, indikerer en urosvækkende eskalering af Kinas desinformationsoperationer.
Tom Burt, Microsofts chef for kundesikkerhed og tillid, har givet udtryk for sin bekymring for fremtiden for disse operationer og udtalte: “Vi ser dem eksperimentere. Jeg er bekymret for, hvor det kan tage os hen.” Opdagelsen af mere sofistikerede AI-værktøjer under præsidentvalget i Taiwan i januar tydeliggør det skiftende landskab inden for online manipulation. Microsofts forskere observerede første gang et nationalt aktørsbrug af AI til at forsøge at påvirke et udenlandsk valg.
Selvom de nuværende kampagner ikke har opnået markant indflydelse, indikerer de potentialet for større, statsstøttede valgindflydelsesoperationer. Vestlige efterretningsfolk har rejst bekymringer om brugen af AI-værktøjer til at oversvømme valg med vildledende videoer og andet indhold, herunder det kommende præsidentvalg i USA i 2024. Eksperter advarer om, at falske AI-genererede lydklip udgør en særlig akut trussel, da de er relativt lette at producere og kan narre publikum.
Den amerikanske efterretningscommunitys årlige trusselsrapport anerkender den kinesiske regerings øgede evner inden for skjulte indflydelsesoperationer og udbredelse af desinformation. Rapporten fremhæver også Kinas eksperimenter med generative AI og styrkede bestræbelser på at forme den amerikanske diskurs om emner som Hongkong og Taiwan. Det er vigtigt at bemærke, at Beijing kontinuerligt har afvist produktion og spredning af falsk information og hævder, at de amerikanske sociale medier er fyldt med desinformation om Kina.
Microsofts rapport bidrager til den voksende mængde af forskning, der kaster lys over desinformationsoperationer med forbindelse til Beijing. For eksempel identificerede en nylig rapport fra Instituttet for Strategisk Dialog konti på sociale medieplatforme, der udgiver sig for at være tilhængere af tidligere præsident Donald Trump og sigter mod at nedgøre præsident Biden. Disse fund understreger behovet for konstant at være på vagt over for udviklende desinformationstaktikker.
I konkrete tilfælde fremhævet i Microsofts rapport udnyttede den kinesiske online hær begivenheder som et togafsporing i Kentucky til at sprede konspirationsteorier, der fejlagtigt anklagede den amerikanske regering. De udbredte også fortællingen om, at den amerikanske regering bevidst startede skovbrandene langs Maui, Hawaii-kysten, ved hjælp af AI-generede billeder for at øge deres virkning. Kampagnerne blev primært iværksat af en trusselaktør kendt som Storm-1376 eller Spamouflage, som har været overvåget af vestlige cybertrusselsforskere siden 2019.
Som landskabet for desinformation og skjulte indflydelsesoperationer fortsætter med at udvikle sig, er det afgørende for teknologivirksomheder, regeringer og enkeltpersoner at forblive på vagt. Brugen af generative AI-værktøjer demonstrerer den stigende kompleksitet af disse kampagner, hvilket kræver en robust reaktion for at imødegå og mindske deres indvirkning. Kun gennem vedvarende forskning, samarbejde og opmærksomhed kan vi håbe på at dæmme op for strømmen af desinformation og beskytte demokratiske processer.
FAQ
Hvad er generative AI-værktøjer?
Generative AI-værktøjer er kunstig intelligens-teknologier, der har evnen til at generere nyt indhold, såsom tekst, billeder eller lyd, baseret på de mønstre og data, de er blevet trænet på. I konteksten af desinformationskampagner kan generative AI-værktøjer bruges til at skabe overbevisende falsk indhold, der spreder falske oplysninger eller manipulerer offentlig opinion.
Hvorfor udgør AI-genererede lydklip en trussel?
AI-genererede lydklip udgør en betydelig trussel, da de let kan produceres, så de lyder som rigtige personer, herunder politikere eller offentlige personer, der siger ting, de aldrig rent faktisk har sagt. Disse klip kan bruges til at sprede falske oplysninger eller manipulere offentlig opfattelse, hvilket kan føre til potentielt skadelige konsekvenser.
Hvad er bekymringen ved brugen af AI-værktøjer ved valg?
Bekymringen er, at AI-værktøjer kan anvendes til at skabe og sprede vildledende videoer, billeder og andet indhold under valg. Dette kan have en betydelig indvirkning på offentlig opinion og underminere demokratiske processers integritet. Med den voksende teknologis udvikling bliver truslen fra AI-drevne desinformationskampagner ved kommende valg stadig mere bekymrende.
Kilder:
– Microsofts rapport: [URL]
– Rapport fra Instituttet for Strategisk Dialog: [URL]
The source of the article is from the blog crasel.tk