Tekoälyn (AI) käyttö vakuuttavan propagandamateriaalin tuottamiseen on merkittävä käänne ISIS:n kehittyvissä strategioissa. Äskettäin maailma oli todistamassa karmeita tapahtumia, kun Moskovan konserttisaliin tehtiin hyökkäys 22. maaliskuuta, joka johti vähintään 145 kuolemaan ja yli 500 loukkaantumiseen. Pian tämän jälkeen, ISIS:n Khorasanin osasto otti tapahtuman kunnian, levittäen uutisvideota vain neljä päivää tapahtuman jälkeen.
Yhdysvaltalainen SITE Intelligence Group -konsultointifirma, joka tunnetaan radikaalien ryhmien verkkotoimintojen seurannasta, jakoi tietoja The Washington Postille, paljastaen tekoälyn tuottamien live-uutisvideoiden käytön tapahtuman lähettämiseen. Asiantuntijat raportoivat ISIS:n perustaneen videotyökalun, News Harvestin, nimenomaan tekoälyllä tuotetun propagandan jakamiseen.
Yksityiskohtaisessa 92 sekunnin leikkeessä katsojat näkevät kypäräpäisen hahmon väittävän Moskovan hyökkäyksen olevan osa jatkuvaa, intensiivistä sotaa ISIS:ää vastaan taistelevia kansakuntia vastaan. Tämä avatar luki ISIS:n mediaosastojen El Naban ja Amakin laatimat skriptit, esitellen tekoälyn monimutkaista käyttöä virtuaalisten uutistoimittajien luomiseen.
SITE Intelligence Groupin perustajajäsen Rita Katz totesi, että maaliskuusta lähtien näitä tekoälyllä tuotettuja uutisia on jaettu viikoittain. Hän korosti tekoälyn mullistavaa potentiaalia ISIS:n kannalta, kun tekoäly mahdollistaa heille karmaisten viestiensä globaalin levittämisen.
Washington Post paljasti, että kuusi videota on levinnyt News Harvestin kautta kehityksen jälkeen, joista jokainen käsittelee ISIS:oon liittyviä operaatioita useassa maassa, mukaan lukien Niger, Kamerun, Nigeria, Irak ja Syyria. ISIS:n käyttämät tarkat tekoälyohjelmat eivät ole tiedossa.
Washington D.C.:ssä toimivan Middle East Media Research Instituten Steven Stalinsky totesi, etteivät näitä tiedotteita tuota ISIS:n virallinen mediaosasto El Hayat, mutta hän spekuloi mahdollisuudesta ISIS:n kehittää erikoistunut tekoäly-yksikkö tulevaisuudessa. Videot näyttivät tulleen lataajalta nimeltä Hisad, mutta tämän käyttäjän tarkemmista tiedoista ei ole paljastettu.
Stalinsky korosti lisäksi ISIS-tukijoiden viestintäalustojen, kuten Rocket.Chatin, Twitterin ja Telegramin, käyttöä heidän aatteensa edistämisessä ja kritisoi yritysten epäonnistumista poistaa näitä sisältöjä tehokkaasti alustoiltaan.
Tekeálezä (AI) vahvistaa ISIS:n epäsymmetristä sotilaallista kykyä mahdollisesti alentamalla tuottamisen ja propagandan levittämisen kustannuksia ja riskejä. AI:n tuottamien videoiden julkaiseminen mahdollistaa luojilleen anonyymiyden ja turvallisuuden, jotka eivät enää joudu riskiin tunnistautumisen kautta suorissa lähetyksissä tai raportoinnissa etulinjan tapahtumista. Monimutkaiset tekoälyllä luodut uutisankkurit voivat uskottavasti matkia ihmistoimittajia, tarjoten ISIS:lle keinon levittää viestejään laajalle ilman tarvetta ihmisosallistujille, jotka voisivat jäädä kiinni tai joutua tapetuiksi.
On tärkeää kysyä:
– Miten tekoälyn käyttö propagandassa vaikuttaa maailmanlaajuiseen pyrkimykseen torjua väkivaltaista ääriliikettä?
Jihadistisen propagandan käyttö tekeleässä mutkistaa terrorismin vastaisia strategioita, koska sen tunnistaminen ja hillintä vaikeutuu. Se vaatii kehittyneitä seurantatyökaluja ja avaa keskustelun eettisestä tekoälyn käytöstä.
– Mitkä ovat haasteet tekoälyllä tuotetun ääriaineksen leviämisen estämisessä?
Yksi keskeisistä haasteista liittyy tekoälyllä tuotetun aineksen erottamiseen aidoista aineistoista ja vastatoimenpiteiden kehittämiseen. Sosiaalisen median alustat myös kamppailevat valtavan määrän sisällön jakelun kanssa ja aineiston tunnistamisessa, mikä lasketaan ääriainekseksi.
– Mitä voidaan tehdä estääkseen ISIS:kaltaisia organisaatioita pääsemästä ja käyttämästä tekoälyteknologiaa?
Kyseessä on monimutkainen ongelma tekoälyteknologian muuttuessa helpommin saataville. Keskustellaan tekoälyteknologian säätelystä ja koulutusta ja resursseja tarjotaan digitaalisen lukutaidon parantamiseksi maailmanlaajuisesti taistellakseen harhaanjohtavaa tietoa vastaan.
Kiista keskittyy puheen- ja ilmaisunvapauden tasapainottamiseen tarpeeseen ehkäistä haitallisen propagandan leviämistä. Myös tekniikkalustojen vastuusta on kiistaa käsiteltäessä tällaisen kehittyneen sisällön käyttöä ja leviämistä.
Hyödyt:
– Tekoälyllä tuotetut videot voivat tavoittaa globaalit yleisöt ylittäen maantieteelliset rajoitukset.
– Propaganda, joka leviää tekoälyn kautta, voi ohittaa tietyt valvontakeinot, jotka on suunniteltu tunnistamaan ja rajoittamaan ihmisten tuottamaa ääriainesta.
Haitat:
– Tekoäly helpottaa propagandan leviämistä automatisoimalla mahdollisesti prosessin, mikä vaikeuttaa viranomaisia pysymällä ajan tasalla sisällön luomisen tahdissa.
– Nämä monimutkaiset menetelmät sumentavat totuuden ja valheen rajaa, haastaen yleisön kyvyn tunnistaa aitoja uutislähteitä.
Lisätietoja aiheeseen liittyen näiltä pääsivustoilta:
The Washington Post
SITE Intelligence Group
Middle East Media Research Institute
Huomautuksena, suoria linkkejä ei ole annettu verkkosivustojen päivitysten ja muutosten vuoksi. Kuitenkin luetellut domainit ovat tarkoitettuja pääportaaleiksi näille organisaatioille, jotka voivat tarjota lisää näkökulmia tekoälystä ja sen väärinkäytöstä terroristijärjestöjen toimesta.