Zastosowanie sztucznej inteligencji (AI) do tworzenia przekonujących materiałów propagandowych oznacza istotny przełom w ewoluujących strategiach ISIS. Ostatnio świat był świadkiem następstw przerażającego incydentu, w którym 22 marca sala koncertowa w Moskwie została zaatakowana, skutkując co najmniej 145 ofiarami śmiertelnymi i ponad 500 rannymi. Niedługo potem oddział Khorasan ISIS zrzekł się odpowiedzialności, rozpowszechniając nagranie wideo zaledwie cztery dni po incydencie.
Grupa doradcza z USA, SITE Intelligence Group, znana z monitorowania działań online radykalnych frakcji, podzieliła się spostrzeżeniami z Washington Post, ujawniając wykorzystanie AI do generowania na żywo nagrań newsowych do transmisji wydarzenia. Specjaliści zgłosili, że ISIS stworzyło platformę wideo, News Harvest, specjalnie do przesyłania propagandy z wykorzystaniem AI.
W szczegółowym 92-sekundowym klipie widzowie mogli zobaczyć postać w hełmie, która twierdziła, że atak w Moskwie nie jest izolowaną misją terrorystyczną, a jest częścią trwającej, intensywnej wojny przeciwko państwom walczącym z ISIS i islamem. Ten awatar odczytywał scenariusze opracowane przez skrzydła medialne ISIS, El Naba i Amak, demonstrowując zaawansowane wykorzystanie AI w celu tworzenia wirtualnych prezenterów.
Rita Katz, założycielka SITE Intelligence Group, zauważyła, że od marca te AI-generowane biuletyny newsowe były regularnie udostępniane. Zaznaczyła potencjał rewolucyjny dla ISIS, ponieważ AI pozwala im globalnie wzmacniać swoje brutalne przekazy.
Washington Post odkrył, że od tego postępu zostały rozpowszechnione sześć wideo za pośrednictwem News Harvest, każde omawiające operacje związane z grupami związanymi z ISIS w różnych krajach, w tym w Nigrze, Kamerunie, Nigerii, Iraku i Syrii. Konkretne programy AI wykorzystywane przez ISIS pozostały niezidentyfikowane.
Steven Stalinsky z Middle East Media Research Institute z siedzibą w Waszyngtonie skomentował, że te biuletyny nie są produkowane przez oficjalne skrzydło medialne ISIS, El Hayat, ale spekulował o możliwości, że ISIS może w przyszłości rozwijać specjalizowaną jednostkę AI. Wideo wydają się być przesyłane przez podmiot o nazwie Hisad, choć dalsze szczegóły na temat tego użytkownika nie zostały ujawnione.
Stalinsky ponadto podkreślił wykorzystanie platform do przesyłania wiadomości, takich jak Rocket.Chat, Twitter i Telegram, przez zwolenników ISIS do propagowania ich działań, krytycznie zauważając niepowodzenie firm w efektywnym usuwaniu tych treści z ich platform.
Sztuczna inteligencja (AI) wzmacnia zdolności asymetrycznej wojny ISIS poprzez potencjalnie obniżenie kosztów i ryzyka związanego z produkcją i rozpowszechnianiem propagandy. Wydanie wideo wyprodukowanych za pomocą AI pozwala na anonimowość i bezpieczeństwo dla twórców, którzy nie muszą już ryzykować identyfikacji poprzez transmisje na żywo ani relacje z pierwszej linii. Zaawansowani, sztucznie generowani prezenterzy wiadomości mogą przekonująco imitować ludzkich reporterów, dając ISIS możliwość szerokiej transmisji swoich przekazów bez konieczności polegania na ludziach, którzy mogliby zostać schwytani lub zabici.
Ważne jest zadanie następujących pytań:
– Jak wykorzystanie AI w propagandzie wpływa na globalne wysiłki w zwalczaniu skrajnego ekstremizmu?
AI w propagandzie dżihadystycznej komplikuje strategie antyterrorystyczne, ponieważ utrudnia wykrycie i ograniczenie takiej działalności. Wymaga zaawansowanych narzędzi monitoringu i otwiera dyskusje wokół etycznego wykorzystania AI.
– Jakie są wyzwania związane z zapobieganiem rozprzestrzeniania się AI-generowanych treści ekstremistycznych?
Jednym z kluczowych wyzwań jest odróżnienie AI-generowanych treści od treści autentycznych oraz rozwój środków przeciwdziałania AI. Platformy mediów społecznościowych również borykają się z ogromną ilością rozpowszechnianych treści oraz identyfikacją treści ekstremistycznych.
– Co można zrobić, aby zapobiec organizacjom takim jak ISIS dostępu i wykorzystywania technologii AI?
Jest to złożona kwestia ze względu na coraz większą dostępność technologii AI. Trwa debata wokół regulacji technologii AI oraz dostarczania edukacji i zasobów do poprawy literactwa cyfrowego na całym świecie w celu zwalczania dezinformacji.
Spór koncentruje się na równoważeniu wolności słowa z potrzebą zapobieżenia rozprzestrzenianiu się szkodliwej propagandy. Istnieje także dyskusja o odpowiedzialności platform technologicznych w obchodzeniu się z wykorzystaniem i rozpowszechnianiem tak zaawansowanych treści.
Korzyści:
– Wideo wygenerowane przez AI mogą dotrzeć do globalnych publiczności, przekraczając ograniczenia geograficzne.
– Propaganda rozpowszechniana za pomocą AI może ominąć niektóre metody inwigilacji skierowane na identyfikację i ograniczenie treści o generacji ludzkiej.
Wady:
– AI ułatwia rozprzestrzenianie propagandy poprzez ewentualne zautomatyzowanie procesu, co sprawia, że organom ścigania trudniej nadążyć za tempem tworzenia treści.
– Te zaawansowane metody zacierają granice między prawdą a fałszem, kwestionując zdolność publiczności do identyfikowania autentycznych źródeł informacji.
W kwestii istotnych linków, poniższe domeny mogą dostarczyć dodatkowych informacji:
The Washington Post
SITE Intelligence Group
Middle East Media Research Institute
Należy pamiętać, że ze względu na aktualizacje i zmiany na stronach internetowych, bezpośrednie łącza nie zostały podane. Niemniej jednak podane domeny są głównymi portalami do odpowiednich organizacji, które mogą dostarczyć dodatkowe perspektywy na temat problemu związane z wykorzystaniem AI przez organizacje terrorystyczne.