Nytten av kunstig intelligens (AI) i produksjonen av overbevisende propagandamateriale har markert en betydelig milepæl i ISIS sine utviklende strategier. Nyleg har verda vitna til etterverknaden av ei skrekkinnjagande hending der ein konsertsal i Moskva vart angripe den 22. mars, og førte til minst 145 døde og over 500 skadde. Ikkje lenge etter påtok ISIS sin Khorasan-gren seg ansvaret, og sirkulerte ein nyheitsvideo berre fire dagar etter hendinga.
SITE Intelligence Group, ein amerikansk konsulentfirma kjent for å spore aktivitetar til radikale fraksjonar på nettet, delte innsikt med The Washington Post, og avslørte bruken av AI-genererte direktesendte nyheitsvideoar for å formidle hendinga. Spesialistar rapporterte at ISIS etablerte ei videoplattform, News Harvest, spesifikt for å kanalisere AI-drevet propaganda.
I ein detaljert 92-sekunders klipp, får sjåarane sjå ein hjelmkledd figur som hevdar at angrepet i Moskva ikkje er ein isolert terroraksjon, men ein del av ein pågåande, intens krig mot nasjonar som bekjemper ISIS og islam. Denne avataren les skript utarbeidd av ISIS sine medieavdelingar El Naba og Amak, og viser den sofistikerte bruken av AI for å skape virtuelle nyheitsankere.
Rita Katz, ein grunnleggjande medlem av SITE Intelligence Group, merka at dei AI-genererte nyheitsbulletinane har vorte delt vekentleg sidan mars. Ho understreka dei banebrytande potensiala for ISIS, då AI gjev dei moglegheita til å forsterke dei grufulle bodskapane deira globalt.
Washington Post avdekte at seks videoar har blitt spreidd via News Harvest sidan framgangen, kvar av dei diskuterer operasjonar knyttet til ISIS-tilknytta grupper i fleire nasjonar, inkludert Niger, Kamerun, Nigeria, Irak og Syria. Dei spesifikke AI-programma som er nytta av ISIS, forblir ukjente.
Steven Stalinsky ved Middle East Media Research Institute basert i Washington, D.C., kommenterte at desse bulletinei ikkje vart produserte av ISIS si offisielle medieavdeling El Hayat, men spekulerte i moglegheita av at ISIS utviklar ein spesialisert AI-avdeling i framtida. Videoane synest å ha blitt lasta opp av ein eining ved namn Hisad, skjønt ytterlegare detaljar om denne brukaren ikkje blir avslørt.
Stalinsky framheva vidare bruken av meldingstenester som Rocket.Chat, Twitter og Telegram av ISIS-støttespelarar for å spreia sakene deira, og kritiserte selskap for å ikkje effektivt fjerne innhaldet deira frå plattformane sine.
Kunstig intelligens (AI) forsterkar ISIS sine asymmetriske krigsevner ved å potensielt senke kostnadane og risikoen knytt til produksjon og formidling av propaganda. Utgjevinga av AI-produserte videoar gjer det mogleg med anonymitet og tryggleik for skaparane, som ikkje lenger treng å risikere identifisering gjennom direktesendingar eller frontlinjereportasjar. Dei sofistikerte AI-genererte nyhetsopplesarane kan overtydande etterlikne menneskelege reportarar, og gir ISIS midlar til å senda bodskapa deira vidt utan å stole på menneskelege deltakarar som kan bli fanga eller drept.