Kunstig intelligens får fotfeste i ekstremistisk propaganda
Etter et terrorangrep i en konsertsal nær Moskva i mars feiret den islamske staten massakren på over 130 mennesker gjennom en video som ble publisert på nettet. Denne klippen, som varer i litt over nitti sekunder, etterlignet formatet til tidligere propaganda, men med et betydelig teknologisk twist: den inneholdt en reporter skapt helt ved hjelp av kunstig intelligens. Med et fotorealistisk utseende og stemme, detaljerte AI-reporteren angrepet og rammet det ikke som en terrorhandling, men som en konsekvens av konflikten mellom den islamske staten og de som er imot islam.
SITE Intelligence Group avslørte at denne videoen er en del av initiativet «News Harvest» designet for å spre terrorhandlinger globalt. Hver uke siden angrepet i Russland har programmet presentert nøkkeloppdateringer. AI har blitt et enestående verktøy for den islamske staten, og hjelper ikke bare med nyhetsspredning, men også i produksjonen av plakater og annet propagandamateriale. Rita Katz, medgrunnlegger av SITE Intelligence Group, uttrykte at AI er et fantastisk verktøy for effektiv og omfattende terrorpropaganda.
På sitt høydepunkt hadde den islamske staten et betydelig audiovisuelt team som produserte videoer av høy kvalitet sammenlignbart med Hollywood-filmer. For eksempel ble drapet på piloten Muath al-Kasasbeh i februar 2015 fremstilt som en dødsannonse, noe som provoserte Karima Bennoune, forfatter av de usagte sidene ved kampen mot muslimsk fundamentalisme, til å definere videoene som «rå pornoskildring».
Hurtighet og snuhet: AI omdefinerer terroristinnhold
AI forenkler arbeidet til ekstremistgrupper betydelig, ikke bare i hastigheten de kan spre informasjon på nettet, men også i genereringen av innhold som møter konvensjonelle nyhetsstandarder, noe som gjør det ekstremt vanskelig for sosiale medieadministratorer å skille fra legitim rapportering.
Diskusjoner innen private grupper blant sympatisører av den islamske staten avslører anerkjennelsen av AI som et potent verktøy. En bruker reflekterte over potensialet for å etterligne etablerte medieorganer for en mer engasjerende presentasjon i stedet for tradisjonell tekstdistribusjon og statiske bilder.
AI’s raske fremskritt lover enda enklere metoder for mediepåvirkning, som noen tilhengere anser som like avgjørende som kampen på bakkenivå på grunn av den enorme innvirkningen på allmennhetens oppfatning.
Steven Stalinsky, administrerende direktør for Middle East Media Research Institute, opplyste The Washington Post om at selv om den nåværende produksjonen ikke offisielt hører under den islamske statens medieavdeling, er det sannsynlig at den får støtte fra toppledelsen. Rekrutteringsannonser oppfordrer til og med unge «mediamujahidin» med ferdigheter innenfor AI, foto- og videoredigering, og kunngjør at «mediene venter på ditt angrep.»
Al-Qaida har også vist interesse for sofistikerte propagandaverktøy, og organiserer online AI-verksteder og tilbyr en femti siders dokument med instruksjoner for å lage bilder og tekster ved hjelp av chatbots med kunstig intelligens.
Kontroversen rundt bruken av AI blant tilhengere
Til tross for de klare fordelene er ikke alle tilhengere av den islamske staten enige i bruken av AI. Noen kritiserer det på ulike nettplattformer for å bryte islamsk lov som forbyr avbildning av menneskelige figurer. Skaperen av en video fra «News Harvest»-serien ble truet med straff i livet etter døden for dette overtrampet. Likevel søkte vedkommende religiøs veiledning, noe som resulterte i en omgang; han modifiserte videoene sine ved å sløre ansiktene for å passe til religiøs lære.
Bruken av AI-teknologi av ekstremistgrupper som den islamske staten (IS) for propagandamål har introdusert nye dynamikker i hvordan propaganda produseres og distribueres. Her er noen tilleggsfakta, sentrale spørsmål, utfordringer og kontroverser knyttet til emnet:
Sentrale spørsmål:
1. Hvordan har AI-teknologi endret landskapet for terroristpropaganda?
2. Hva er de etiske implikasjonene av AI-generert innhold som brukes til ekstremistiske formål?
3. Hvordan kan antiterrorinnsats tilpasse seg for å håndtere bruk av AI i terroristpropaganda?
4. Hvilken rolle spiller sosiale medieplattformer i å moderere AI-generert ekstremistisk innhold?
Sentrale utfordringer og kontroverser:
En av de primære utfordringene er den raske spredningen av ekstremistinnhold. AI-teknologien har gjort det enklere for terrororganisasjoner å produsere propaganda med en høyere hastighet og av en kvalitet som kan etterligne legitime nyhetskilder. Dette kompliserer innsatsene til sosiale medieplattformer for å identifisere og fjerne ekstremistisk innhold.
En annen kontrovers omhandler overholdelse av religiøs lære innenfor disse ekstremistgruppene. Bruk av menneskelige bilder betraktes som en krenkelse av islamsk lov av noen tilhengere, noe som har ført til interne uenigheter og utfordringer knyttet til å bruke AI-genererte menneskelige figurer i propaganda.
Fordeler:
For ekstremistgrupper:
– Økt effektivitet i spredning av meldinger og ideologi.
– Forbedret evne til å nå et globalt publikum med overtalende og høykvalitets innhold.
– Evne til å forbli anonyme og redusere risikoen for menneskelige medlemmer som ellers ville ha dukket opp i videoene.
Ulemper:
For samfunnet og antiterrorinnsats:
– AI-generert propaganda kan være vanskelig å oppdage og moderere på grunn av sitt realistiske utseende.
– Det er en risiko for at slikt innhold radikaliserer individer og oppmuntrer til terrorhandlinger.
– Kampen mot denne typen høyteknologisk propaganda krever sofistikerte verktøy og strategier, noe som potensielt øker kostnadene og kompleksiteten i antiterroroperasjoner.
For de som er interessert i å lære mer om AI’s påvirkning på samfunnet generelt, kan du besøke nettsidene til forskningsinstitusjoner og organisasjoner som fokuserer på AI-etikk og -politikk, for eksempel:
– AI Global
– Future of Life Institute
Vær oppmerksom på at disse lenkene bør betraktes som startpunkter for å lære mer om AI og dets samfunnsmessige implikasjoner, og er ikke direkte relatert til ekstremistisk bruk av AI som sådan.