Kunstig intelligens tar rot i ekstremistisk propaganda
Etter et terroristangrep i en konsertsal nær Moskva i mars, feiret den islamske staten massakren på over 130 personer gjennom en video som ble publisert på nettet. Denne klippet, som varte i litt over nitti sekunder, etterlignet formatet til tidligere propaganda, men med en betydelig teknologisk vri: den inkluderte en reporter som var helt skapt ved hjelp av kunstig intelligens. Med fotorealistisk utseende og stemme detaljerte AI-reporteren angrepet, som ble rammet ikke som et terrorangrep, men som en konsekvens av konflikten mellom Den islamske staten og de som er imot islam.
Det SITE Intelligence Group avslørte at denne videoen er en del av initiativet «News Harvest», designet for å spre terroristhandlinger globalt. Hver uke siden angrepet i Russland har programmet presentert viktige oppdateringer. AI har blitt et uovertruffent verktøy for Den islamske staten, og hjelper ikke bare med nyhetsformidling, men også med produksjonen av plakater og annet propaganda-materiale. Rita Katz, medgrunnlegger av SITE Intelligence Group, uttalte at AI er et fantastisk verktøy for effektiv og omfattende terrorpropaganda.
På sitt høydepunkt hadde Den islamske staten et betydelig lyd- og videoteam som produserte høykvalitets videoer sammenlignet med Hollywood-filmer. For eksempel ble drapet på piloten Muath al-Kasasbeh i februar 2015 fremstilt som en dødsannonse, noe som fikk Karima Bennoune, en forfatter om de usagte sidene av kampen mot muslimsk fundamentalisme, til å definere videoene som «rå porno.»
Fart og usynlighet: AI omdefinerer terroristinnhold
AI forenkler arbeidet til ekstremistgrupper betydelig, ikke bare ved den hastigheten de kan spre informasjon online, men også ved å generere innhold som møter konvensjonelle nyhetsstandarder, noe som gjør det ekstremt vanskelig for sosiale medieadministratorer å skille fra legitim rapportering.
Diskusjoner innen private grupper av sympatisører for Den islamske staten avslører deres anerkjennelse av AI som et potent verktøy. En bruker reflekterte over potensialet for å etterligne mainstream mediekanaler for en mer engasjerende presentasjon i stedet for tradisjonell tekstlesning og statisk bildebruk.
AI’s raske fremskritt lover enda større enkelhet for mediepåvirkning, noe som noen tilhengere anser som like avgjørende som bakkeoperasjoner på grunn av den enorme påvirkningen på offentlig oppfatning.
Steven Stalinsky, administrerende direktør i Middle East Media Research Institute, presiserte overfor The Washington Post at selv om den nåværende produksjonen ikke er offisielt en del av Den islamske statens medieavdeling, er godkjenning fra øverste ledelse sannsynlig. Rekrutteringsannonser oppfordrer til og med unge «medie-mujahideen» med ferdigheter innen AI og foto- og videoredigeringsprogramvare, hvor det står «mediene venter på ditt angrep.»
Al-Qaida har også vist interesse for sofistikerte propagandaverktøy, ved å organisere online AI-verksteder og gi en femti-siders instruksjonsmanual for å skape bilder og tekst ved hjelp av chatbots med kunstig intelligens.
AI Brukskontrovers blant tilhengere
Til tross for de klare fordelene, er ikke alle tilhengere av Den islamske staten enige i bruken av AI. Noen kritiserer det på ulike online plattformer for å bryte med islamsk lov som forbyr skildring av menneskelige figurer. Skaperen av en video fra «News Harvest»-serien ble truet med straff i etterlivet for dette lovbruddet. Likevel søkte han religiøs veiledning som resulterte i en løsning; han modifiserte videoene sine ved å gjøre ansiktene uskarpe for å være i tråd med religiøs lære.
Bruken av AI-teknologi av ekstremistgrupper som Den islamske staten (IS) for propagandamål har introdusert nye dynamikker i produksjon og distribusjon av propaganda. Her er noen tilleggspoeng, nøkkelspørsmål, utfordringer og kontroverser knyttet til emnet:
Nøkkelspørsmål:
1. Hvordan har AI-teknologi endret landskapet for terroristpropaganda?
2. Hva er de etiske implikasjonene av at AI-generert innhold blir brukt til ekstreme formål?
3. Hvordan kan motterrorisme-tiltak tilpasse seg for å adressere bruken av AI i terroristpropaganda?
4. Hvilken rolle spiller sosiale medieplattformer med å moderere AI-generert ekstremistisk innhold?
Nøkkelutfordringer og kontroverser:
En av de viktigste utfordringene er den raske spredningen av ekstremistisk innhold. AI-teknologi har gjort det enklere for terroristorganisasjoner å produsere propaganda i raskere tempo og med kvalitet som kan ligne på legitime nyhetskilder. Dette kompliserer innsatsene til sosiale medieplattformer med å identifisere og fjerne ekstremistisk innhold.
En annen kontrovers omhandler overholdelsen av religiøs lære innad i ekstremistgruppene selv. Bruken av menneskelige bilder betraktes som et brudd på islamsk lov av enkelte tilhengere, noe som har ført til interne uenigheter og utfordringer med å bruke AI-genererte menneskelige figurer i propaganda.
Fordeler:
For ekstremistgrupper:
– Økt effektivitet i spredning av meldinger og ideologi.
– Forbedret evne til å nå et globalt publikum med overbevisende og høykvalitets innhold.
– Evne til å forbli anonyme og redusere risikoen for menneskelige medlemmer som ellers ville ha opptrådt i videoene.
Ulemper:
For samfunnet og motterrorisme-tiltak:
– AI-generert propaganda kan være vanskelig å oppdage og moderere på grunn av sitt realistiske utseende.
– Det er en risiko for at slikt innhold radikaliserer individer og oppmuntrer til terrorhandlinger.
– Å kjempe mot denne typen høyteknologisk propaganda krever sofistikerte verktøy og strategier, noe som potensielt øker kostnaden og kompleksiteten i motterroroperasjoner.
For de som er interessert i å lære mer om virkningene av AI på samfunnet generelt, kan du besøke nettsidene til forskningsinstitusjoner og organisasjoner som fokuserer på AI-etikk og politikk, for eksempel:
– AI Global
– Future of Life Institute
Vennligst merk at disse lenkene skal fungere som utgangspunkt for å lære mer om AI og dets samfunnsmessige implikasjoner og ikke er direkte relatert til ekstremistisk bruk av AI som sådan.