Het gebruik van kunstmatige intelligentie (AI) bij het produceren van overtuigend propagandamateriaal heeft een belangrijke mijlpaal gemarkeerd in de evoluerende strategieën van ISIS. Onlangs heeft de wereld de nasleep gezien van een schokkend incident waarbij een concertzaal in Moskou op 22 maart werd aangevallen, resulterend in minstens 145 doden en meer dan 500 gewonden. Niet lang daarna claimde de Khorasan-tak van ISIS de verantwoordelijkheid, door slechts vier dagen na het incident een nieuwsvideo te verspreiden.
De SITE Intelligence Group, een Amerikaans adviesbureau dat bekend staat om het volgen van online activiteiten van radicale groeperingen, deelde inzichten met The Washington Post en onthulde het gebruik van door AI gegenereerde live nieuwsvideo’s door ISIS voor het uitzenden van het evenement. Specialisten meldden dat ISIS een videoplatform, News Harvest, had opgezet dat specifiek werd gebruikt om op AI gebaseerde propaganda te verspreiden.
In een gedetailleerde video van 92 seconden ziet de kijker een gehelmde figuur die verklaart dat de aanval in Moskou geen geïsoleerde terreuraanslag is, maar onderdeel van een voortdurende, intense oorlog tegen landen die ISIS en de islam bestrijden. Deze avatar leest scripts opgesteld door ISIS-media-afdelingen El Naba en Amak en toont het geavanceerde gebruik van AI om virtuele nieuwslezers te creëren.
Rita Katz, een oprichter van de SITE Intelligence Group, merkte op dat vanaf maart deze door AI gegenereerde nieuwsbulletins wekelijks worden gedeeld. Ze benadrukte het baanbrekende potentieel voor ISIS, aangezien AI hen in staat stelt hun gruwelijke boodschappen wereldwijd te versterken.
The Washington Post onthulde dat er sinds de vooruitgang zes video’s zijn verspreid via News Harvest, elk besprekend operaties verbonden aan ISIS-gelieerde groepen in verschillende landen, waaronder Niger, Kameroen, Nigeria, Irak en Syrië. De specifieke AI-programma’s die door ISIS worden gebruikt, blijven onbekend.
Steven Stalinsky van het Middle East Media Research Institute gevestigd in Washington, D.C., merkte op dat deze bulletins niet worden geproduceerd door ISIS’s officiële mediatak El Hayat, maar speculeerde over de mogelijkheid dat ISIS in de toekomst een gespecialiseerde AI-eenheid zou kunnen ontwikkelen. De video’s leken te zijn geüpload door een entiteit met de naam Hisad, hoewel verdere details over deze gebruiker niet worden onthuld.
Stalinsky benadrukte verder het gebruik van berichtenplatforms zoals Rocket.Chat, Twitter en Telegram door ISIS-supporters om hun oorzaken te propageren, en merkte kritisch op dat bedrijven falen om deze inhoud effectief van hun platforms te verwijderen.
Kunstmatige intelligentie (AI) verbetert de asymmetrische oorlogscapaciteiten van ISIS door mogelijk de kosten en risico’s in verband met de productie en verspreiding van propaganda te verlagen. De release van door AI geproduceerde video’s biedt anonimiteit en veiligheid voor de makers, die niet langer het risico lopen om geïdentificeerd te worden via live-uitzendingen of frontlinieverslaggeving. De geavanceerde AI-gegenereerde nieuwslezers kunnen overtuigend menselijke verslaggevers nabootsen, waardoor ISIS de middelen krijgt om hun boodschappen wijd te verspreiden zonder te vertrouwen op menselijke deelnemers die gevangen genomen of gedood kunnen worden.
Het is belangrijk om te vragen:
– Hoe beïnvloedt het gebruik van AI in propaganda de wereldwijde inspanningen om gewelddadig extremisme tegen te gaan?
AI in jihadistische propaganda complexeert tegenstrategieën voor terrorismebestrijding omdat detectie en beperking moeilijker worden. Het vereist geavanceerde monitoringtools en opent discussies over het ethische gebruik van AI.
– Wat zijn de uitdagingen bij het voorkomen van de verspreiding van door AI gegenereerde extremistische inhoud?
Een van de belangrijkste uitdagingen is het onderscheiden van door AI gegenereerde inhoud van echte inhoud en de ontwikkeling van tegen-AI-maatregelen. Sociale mediaplatforms worstelen ook met de enorme hoeveelheid contentverspreiding en het identificeren van wat extremistisch materiaal vormt.
– Wat kan er gedaan worden om organisaties zoals ISIS ervan te weerhouden toegang te krijgen tot en gebruik te maken van AI-technologie?
Het is een complex probleem naarmate AI-technologie toegankelijker wordt. Er is discussie over de regulering van AI-technologie en het bieden van onderwijs en hulpmiddelen om de digitale geletterdheid wereldwijd te verbeteren om misinformatie te bestrijden.
De controverse draait om het balanceren van de vrijheid van meningsuiting met de noodzaak om de verspreiding van schadelijke propaganda te voorkomen. Er is ook onenigheid over de verantwoordelijkheid van techplatforms bij het aanpakken van het gebruik en de verspreiding van dergelijke geavanceerde inhoud.
Voordelen:
– Door AI gegenereerde video’s kunnen wereldwijde doelgroepen bereiken, geografische beperkingen overstijgen.
– Propaganda verspreid via AI kan bepaalde surveillancemethoden om menselijke gegenereerde extremistische inhoud te identificeren en te beperken, omzeilen.
Nadelen:
– AI vergemakkelijkt de verspreiding van propaganda door mogelijk het proces te automatiseren, waardoor het voor autoriteiten moeilijker wordt om het tempo van de creatie van content bij te houden.
– Deze geavanceerde methoden vervagen de scheidslijnen tussen waarheid en onwaarheid, waardoor het voor het publiek moeilijk wordt om authentieke nieuwsbronnen te identificeren.
Wat betreft relevante links, deze belangrijkste domeinen kunnen verdere informatie bieden:
The Washington Post
SITE Intelligence Group
Middle East Media Research Institute
Merk op dat vanwege website-updates en -wijzigingen geen directe links worden verstrekt. De vermelde domeinen dienen echter als belangrijke portals naar deze respectievelijke organisaties, die aanvullende perspectieven kunnen bieden over het onderwerp AI en het misbruik ervan door terroristische organisaties.
The source of the article is from the blog lisboatv.pt