Digitale manipulasjonsforsøk har tydeleg nådd nye frontar, då AI-teknologi har blitt brukt av påverknadsgrupper frå Russland, Kina, Iran og eit privat israelsk firma i forsøk på å påverke den offentlege meiningsdanninga i andre land, melder OpenAI.
Under EU-vala merka Valentin Chatelet frå Atlantic Councils DFRLab ein betydeleg auke i spreiinga av utanlandsprodusert innhald på nett, mogleggjort av framsteg innan AI som gjer det mogleg med masseprouksjon av potensielt manipulerande innhald.
Ein merkbar auke i tvilsam aktivitet på nett vart oppdaga etter eit angrep i Crocus City Hall nær Moskva. Bemerkelsesverdig nok dukka det opp over to millionar innlegg på nettet innan 24 timar, der angrepet vart tilskrive Ukraina og vestlege styrkar, ein narrativ som spegla dei opphavlege påstandane til russiske styresmakter, sjølv om ISIS tok på seg ansvaret for hendinga.
Antibot4Navalny, eit kollektiv som overvaker Russland-tilknytta digitale påverkingsoperasjonar, merka at botar skiftar fokus fullstendig til store hendingar, fråvikande frå dei vanlege mønstera deira. I tillegg gjer AI-sin sofistikering desse botane i stand til å unnslippe oppdaging av sosiale medier-moderatorar ved å generere varierte men liknande meldingar og til tider kombinere ekte nyheitsartiklar med politiske kommentarar. Denne strategiske innhaldsbombarderinga kan gi brukarar feilaktig inntrykk av at visse synspunkt er utbreidde i deira eigen nasjon.
Slike taktikkar er hovudsakleg tilskrive Russland, men andre land som Aserbajdsjan, Iran og Kina blir også flagga av ekspertar for deira utanlandske inngriping på nett. Nylege avsløringar har avdekka operasjonar som Doppelgänger og Olympiya, med intensjon om å målrette långsiktige hendingar som Paris OL i 2024 og påverke narrativet under kritiske øyeblikk, som USAs presidentval og Joe Bidens kandidatur midt i rettsforfølgelsen mot Donald Trump.
Dei pågåande og komande amerikanske vala spelar ein avgjerande rolle, særleg med omsyn til Russlands strategiske interesse for å undergrave vestlig støtte til Ukraina, legg forsvar- og sikkerheitsforskar John Kennedy til frå Rand Corporation.
1. Kva eksempel illustrerer bruk av AI i globale påverkingsoperasjonar?
– Under EU-vala var det ei betydeleg auke i utanlandsprodusert innhald på nett.
– Etter eit angrep i Crocus City Hall, Moskva, vart det raskt spredde over to millionar innlegg med falske narrativ på nett.
– Operasjonar som Doppelgänger og Olympiya hadde som mål å påverke narrativ under kritiske hendingar som USAs val.
2. Kva land har vore innblanda i å bruke AI for digital manipulasjon?
– Landa som er nemnde er Russland, Kina, Iran og Aserbajdsjan. I tillegg er eit privat israelsk firma identifisert.
3. Korleis påverkar AI-drevene botar oppfatninga under signifikante geopolitiske hendingar?
– AI-drevene botane skaper ein illusjon av fleirtalsperspektivet ved å flomme sosiale plattformer med politisk lada innhald eller som støttar eit spesifikt narrativ.
Integrasjonen av AI i påverkingsoperasjonar presenterer ei rekkje utfordringar og kontroversar, som:
– Det er stadig vanskelegare for sosiale medier-moderatorar å oppdage sofistikerte botar og AI-støtta misinformasjonskampanjar.
– Desse påverkingsoperasjonane truar demokratiske prosessar og integriteten til val ved å spreie desinformasjon.
– Det er ei uklar grense mellom ekte grasrotkampanjar og statssponsa påverkingsforsøk, noko som gjer det vanskeleg å skilje og imøtegå slike operasjonar utan å begrense ytringsfridomen.
Fordeler:
– AI kan behandle og distribuere informasjon raskt og i stor skala, noko som kan nyttast til å spreie kritisk, sann informasjon under nødsituasjonar.
– AI-system kan hjelpe med å forstå store offentlege meiningsdanningstrender og gi innsikt for policyutforming.
Ulemper:
– Påverking gjennom AI kan forvrenga den offentlege diskursen og polarisere samfunn.
– Det undergraver tilliten til digitale plattformer og kan svekke tilliten til media og demokratiske institusjonar.
– Det er ein risiko for eskalering, med nasjonar som konkurrerer for å skape meir imponerande og uoppdagelege AI-system for digital påverking, noko som fører til ein nedrustingskonkurranse i informasjonssfæren.
The source of the article is from the blog newyorkpostgazette.com