Využití umělé inteligence (AI) při výrobě přesvědčivých propagandistických materiálů představuje významný milník v rozvíjejících se strategiích ISIS. Nedávno se svět svědkem něco strašného, když byla 22. března v Moskvě napadena koncertní síň, což si vyžádalo nejméně 145 obětí na životech a více než 500 zraněných. Krátce poté pobočka ISIS v Chorásánu převzala zásluhy, šířící nový zpravodajský video pouhé čtyři dny po události.
Skupina SITE Intelligence, americká konzultační firma známá sledováním online aktivit radikálních frakcí, sdílila poznatky se Washington Post, odhalující nasazení AI-generovaných živých zpravodajských videí pro šíření událostí. Specialisté informovali, že ISIS založila video platformu s názvem News Harvest, specificky pro distribuci propagandy poháněné AI.
V podrobném 92sekundovém videu diváci vidí helmovanou postavu, která tvrdí, že moskevský útok není izolovanou teroristickou misí, ale součástí trvající intenzivní války proti národům bojujícím proti ISIS a Islámu. Tento avatar čte scénáře sepsané ISIS mediálními křídly El Naba a Amak, ukazující sofistikované použití AI k vytváření virtuálních zpravodajců.
Rita Katz, zakladatelka skupiny SITE Intelligence, zdůraznila, že od března tyto AI-generované zpravodajské zprávy byly sdíleny týdně. Zdůraznila potenciál pro změnu pravidel pro ISIS, jelikož AI jim umožňuje globeálně zesílit své kruté zprávy.
Washington Post zjistil, že od pokroku bylo prostřednictvím News Harvest rozšířeno šest videí, každé diskutující operace spojené se skupinami přidruženými k ISIS v několika národech, včetně Nigeru, Kamerunu, Nigérie, Iráku a Sýrie. Konkrétní AI programy používané ISIS zůstávají neidentifikované.
Steven Stalinsky z Middle East Media Research Institute se sídlem ve Washingtonu, D.C., uvedl, že tyto zpravodajské zprávy nejsou produkovány oficiálním mediálním křídlem ISIS El Hayat, ale spekuloval o možnosti, že ISIS bude v budoucnosti vyvíjet specializovanou jednotku pro AI. Videa se zdají být nahrávána entitou jménem Hisad, ačkoli další podrobnosti o tomto uživateli nejsou zveřejněny.
Stalinsky dále zdůraznil použití zpravodajských platforem jako Rocket.Chat, Twitter a Telegram fanatickými stoupenci ISIS pro šíření svých záměrů, kriticky poukázal na selhání firem při účinném odstraňování těchto obsahů ze svých platforem.
Umělá inteligence (AI) zlepšuje asymetrické válečné schopnosti ISIS tím, že potenciálně snižuje náklady a rizika spojená s produkcí a šířením propagandy. Vydání AI-vytvořených videí umožňuje anonymitu a bezpečí tvůrcům, kteří už nemusí riskovat identifikaci prostřednictvím živých vysílání nebo reportáží ze válečné fronty. Sofistikovaní AI-generovaní zpravodajci mohou přesvědčivě napodobovat lidské reportéry, poskytujíc ISIS možnost šířit své zprávy široce, aniž by se spoléhali na lidské účastníky, kteří by mohli být chyceni nebo zabití.
Je důležité se ptát:
– Jak ovlivňuje použití AI v propagandě globální úsilí v boji proti násilnému extremismu? AI v jihádistické propagandě komplikuje strategie boje proti terorismu, protože detekci a zmírnění situace činí obtížnějšími. Vyžaduje to pokročilé monitorovací nástroje a otevírá diskuse o etickém užití AI.
– Jaké jsou výzvy v prevenci šíření AI-generovaného extremistického obsahu? Jedním z klíčových výzev je rozlišení AI-generovaných obsahů od skutečných a vývoj protiopatření pro AI. Sociální média se také potýkají s obrovským množstvím sdíleného obsahu a s identifikací, co představuje extremistický materiál.
– Co lze udělat pro zabránění organizacím jako ISIS v přístupu k a využívání technologie AI? Jde o složitý problém, když se technologie AI stává dostupnější. Existuje diskuse o regulaci technologie AI a poskytování vzdělání a zdrojů k posílení digitální gramotnosti celosvětově k boji proti dezinformacím.
Problém spočívá v nalezení rovnováhy mezi svobodou slova a potřebou zabránit šíření škodlivé propagandy. Vznikají debaty o odpovědnosti technologických platforem při řešení užití a šíření takových sofistikovaných obsahů.
Výhody:
– AI-generovaná videa mohou oslovit globální publikum, překračujíce geografická omezení.
– Propaganda šířená prostřednictvím AI může obejít určité metody dohledu určené k identifikaci a omezení lidsky vytvořeného extremistického obsahu.
Nevýhody:
– AI usnadňuje šíření propagandy tím, že potenciálně automatizuje proces, což ztěžuje úřadům držet krok s rychlostí tvorby obsahu.
– Tyto sofistikované metody rozostřují hranici mezi pravdou a lží, což klade výzvu na schopnost veřejnosti identifikovat autentické zdroje zpráv.
Ohledně relevantních odkazů mohou tyto hlavní domény nabídnout další informace:
The Washington Post
SITE Intelligence Group
Middle East Media Research Institute
Vzhledem k aktualizacím a změnám webových stránek nejsou poskytnuty přímé odkazy. Avšak uvedené domény mají být hlavními portály těchto příslušných organizací, které mohou poskytnout další perspektivy na téma AI a jeho zneužívání teroristickými organizacemi.
The source of the article is from the blog kewauneecomet.com