En ny utmaning har dykt upp i ansträngningarna mot terrorism, då extremistgrupper som ISIS har börjat använda artificiell intelligens (AI) för att sprida propaganda snabbare och mer kostnadseffektivt. Utredare har upptäckt att personen som presenterade videon efter en grym attack i Moskvas Crocus City Hall inte var mänsklig utan en digitalt skapad figur.
I en skrämmande utveckling har ISIS-anhängare kunnat använda AI för att generera attacker på ett visuellt sätt som inte går att skilja från vanliga nyhetsutsändningar, vilket gör det allt svårare för myndigheterna att upptäcka och undertrycka. En ISIS-supporter diskuterade potentialen för AI inom propaganda och framhöll mediernas avgörande betydelse i deras kamp, även bortom fysisk krigföring, på grund av dess enorma påverkan på människor.
Inom några dagar efter evenemanget i Moskva framträdde innehåll som främjade ISIS-saken, med AI-genererade värdar i militärklädsel som förmedlade utdrag från ISIS-publikationer. Dessa AI-ankare höll tal ackompanjerade av våldsamma bilder samtidigt som de framträdde i en sofistikerad sändningsformat komplett med logotyper och introtexter.
Uppgången av extremistiskt AI-innehåll är vanligt förekommande på meddelandeappar och sociala nätverk, som Rocket.Chat, Telegram och den före detta Twitter, nu kallad ”X”. Representanter från Rocket.Chat betonade deras begränsade förmåga att kontrollera distributionen av innehåll och hänvisade till slut-till-slut-kryptering och en hands-off-inställning till serverbaserade meddelanden. Dessa enheter svarade inte på förfrågningar om kommentarer angående den växande närvaron av radikalt innehåll.
I mitten av denna oroande användning av teknologi uppstod en kontrovers inom extremistkretsarna själva angående skapandet av mänskliga likheter vilket utmanar islamiska förbud mot att avbilda sinnliga varelser. Denna religiösa konflikt ledde till justeringar i de AI-genererade videorna, där skaparna började sudda ut ansiktena på AI-ankarna som svar på kritik.
Experter erkänner omfattningen av detta problem och konstaterar att ISIS sannolikt undersöker AI för att ytterligare förstärka sina budskap och rekryteringsstrategier. Denna djupdykning i extremisternas digitala propagandataktik signalerar en sofistikerad och resursstark användning av framväxande teknologier för att förstärka sina berättelser och utöka sin påverkan globalt.
De mest betydande frågorna, utmaningarna och kontroverserna:
1. På vilket sätt kan myndigheter och teknikföretag effektivt upptäcka och motverka AI-genererad extremistpropaganda?
Myndigheter och teknikföretag står inför den kritiska utmaningen att skilja mellan legitimt AI-genererat innehåll och extremistpropaganda, vilket kräver avancerade detektionstekniker och striktare innehållsmoderationspolicyer. Ytterligare komplexiteter uppstår när man balanserar behovet av öppen kommunikation och integritet med säkerhetsåtgärder – en balansgång som är svår att genomföra utan att kränka medborgerliga friheter eller kväva innovation.
2. Vilka etiska problem uppstår från användningen av AI för att skapa extremistiskt innehåll?
Den etiska frågan handlar om det missbruk av AI-tekniker för skadliga ändamål. När AI-utvecklingen ökar blir de bredare implikationerna av dess potentiella missbruk för propaganda ett kontroversiellt ämne bland tekniker, etiker och beslutsfattare.
3. Pågår en teknologisk kapprustning mellan innehållsskapare och de som försöker stoppa extremistiskt material?
Ja, det pågår en pågående teknologisk kapprustning. När extremister antar avancerad AI för att sprida propaganda måste myndigheter och teknikplattformar ständigt förbättra sina detektions- och förebyggandemetoder, vilket leder till en eskalerande cykel.
4. Hur hanterar privata meddelandeplattformar spridningen av extremistiskt innehåll?
Medan vissa plattformar som Rocket.Chat hävdar att de har begränsad förmåga att kontrollera innehåll på grund av krypteringspraxis, finns det en växande förväntan på att teknikföretag ska anta proaktiva åtgärder för att övervaka och tackla sådana missbruk samtidigt som de säkerställer integriteten och rättigheterna för legitima användare.
Fördelar och nackdelar:
Fördelar:
– Effektivitet: AI kan producera innehåll i en häpnadsväckande hastighet som gör det möjligt att snabbt sprida meddelanden till en bred publik.
– Kostnadseffektivitet: När AI-system väl är utvecklade kan de generera stora mängder propaganda utan de återkommande kostnaderna för mänsklig arbetskraft.
– Anpassningsbarhet: AI-tekniker kan snabbt anpassas för att rikta sig mot olika demografier eller svara på motåtgärder.
Nackdelar:
– Bedrägeri: AI-genererat innehåll kan vara omöjligt att skilja från genuina medier, vilket undergräver förtroendet för legitima nyheter och komplicerar ansträngningarna att identifiera extremistiskt material.
– Förstärkning av skadliga berättelser: Användningen av AI av extremister kan markant förstärka våldsamma ideologier och bidra till radikalisering.
– Regleringskomplexiteter: Att utveckla effektiva regler som håller jämna steg med den framstegsavancerade tekniken och dess missbruk utan att begränsa laglig AI-forskning och -utveckling är ytterst komplicerat.
För vidare läsning om AI och ansträngningar mot terrorism kan du besöka trovärdiga källor som United Nations, Europol, och forskningsinstitutioner specialiserade på teknikpolitik och etik som Carnegie Endowment for International Peace. Se till att alltid kontrollera de tillhandahållna URL:erna för legitimitet och undvik att klicka på misstänkta länkar.