Roman RemberHaaste on noussut vastaterroismin ponnisteluissa, kun äärijärjestöt kuten ISIS ovat alkaneet hyödyntää tekoälyä propagandan levittämisessä nopeammin ja kustannustehokkaammin. Tutkijat ovat havainneet, että videon esittäjä Moskovan Crocus City Hallin hirvittävän hyökkäyksen jälkeen ei ollut ihminen vaan digitaalisesti luotu persoona.
Pelottavasti ISIS:n kannattajat ovat pystyneet käyttämään tekoälyä luomaan hyökkäystarinoita, jotka ovat visuaalisesti erottamattomia valtamediasta, mikä vaikeuttaa viranomaisten havaitsemis- ja tukahduttamistoimia entisestään. ISIS:n tukija keskusteli tekoälyn potentiaalista propagandassa korostaen median ensisijaisen tärkeyden heidän taistelussaan, joka ulottuu fyysisen sodankäynnin yli sen massiivisen vaikutuksen vuoksi ihmisiin.
Muutamassa päivässä Moskovan tapahtuman jälkeen ISIS:n asioita edistävää sisältöä ilmaantui, jossa oli tekoälyllä luotuja juontajia sotilaspuvuissa esittelemässä poimintoja ISIS:n julkaisuista. Nämä tekoälyn luomat juontajat pitivät puheita, joihin liittyi väkivaltaisia kuvia samalla kun ne esiintyivät hienostuneessa lähetysmuodossa logoineen ja johdantoineen.
Äärijärjestöjen tekoälysisällön yleistyminen on yleinen ilmiö viestisovelluksissa ja sosiaalisissa verkostoissa, kuten Rocket.Chat, Telegram ja entinen Twitter, joka tunnetaan nykyään nimellä ”X”. Rocket.Chatin edustajat korostivat rajoitettua kykyään hallita sisällön jakelua vedoten päästä päähän -salaamiseen ja etäisten viestien lähestymistapaan. Nämä tahot eivät vastanneet kyselyihin radikaalin sisällön kasvavasta läsnäolosta.
Tässä teknologian huolestuttavassa käytössä on noussut kiista äärijärjestöjen piirissä ihmishahmojen luomisesta, haastaen islamin kiellot elävien olentojen esittämisessä. Tämä uskonnollinen konflikti sai aikaan muutoksia tekoälyn luomiin videoihin, joissa luojat alkoivat hämärtää tekoälyn juontajien kasvoja vastauksena kritiikkiin.
Asiantuntijat tunnustavat tämän ongelman laajuuden todeten, että ISIS todennäköisesti tutkii tekoälyä vahvistaakseen viestintäänsä ja rekrytointistrategioitaan. Syvä sukellus äärijärjestöjen digitaaliseen propagandataktiikkaan viestii taitavasta ja kekseliäästä käytöstä nousevia teknologioita hyväksi käyttäen ollakseen jatkuvasti läsnä tarinoissaan ja laajentaakseen vaikutusvaltaansa globaalisti.
Tärkeimmät kysymykset, haasteet ja kiistakysymykset:
1. Miten viranomaiset ja teknologiayritykset voivat tehokkaasti havaita ja torjua tekoälyn luomaa äärijärjestöjen propagandaa?
Viranomaisten ja teknologiayritysten on kohdattava kriittinen haaste aitojen tekoälyn luomien sisältöjen ja äärijärjestöjen propagandan välisen erottamisessa, mikä edellyttää kehittyneitä havaitsemisteknologioita ja tiukempia sisällön moderaation käytäntöjä. Lisähaasteita nousee tasapainotellessa avoimen viestinnän ja yksityisyyden sekä turvallisuustoimenpiteiden välillä – tasapainoilu, joka on vaikea tehtävä ilman kansalaisten oikeuksien loukkaamista tai innovaatioiden tukahduttamista.
2. Minkälaisia eettisiä kysymyksiä nousee tekoälyn käytöstä ääriainesten luomisessa?
Eettinen huoli liittyy tekoälyteknologioiden väärinkäyttöön haitallisissa tarkoituksissa. Tekoälyn kehityksen kiihtyessä sen potentiaalinen väärinkäyttö propagandassa herättää kiistaa teknologien, eettisten toisinajattelijoiden ja päättäjien keskuudessa.
3. Käydäänkö teknologinen asevarustelu sisällöntuottajien ja äärijärjestöjen vastustajien välillä?
Kyllä, jatkuva teknologinen asevarustelu on käynnissä. Kun äärijärjestöt ottavat käyttöön kehittyneitä tekoälyratkaisuja propagandan levittämiseen, viranomaisten ja teknologia-alustojen on jatkuvasti parannettava havaitsemis- ja ennaltaehkäisykeinojaan, mikä johtaa eskaloitumisen kierteeseen.
4. Miten yksityiset viestintäalustat tarttuvat äärijärjestöjen sisällön leviämiseen?
Vaikka joillakin alustoilla kuten Rocket.Chatilla on väitetysti rajoitettu kyky hallita sisältöä salauskäytäntöjensä vuoksi, odotukset kasvavat teknologiayrityksille ryhtyä proaktiivisiin toimiin haitallisen sisällön valvonnassa samalla taaten yksityisyyden ja kunnioittaen laillisten käyttäjien oikeuksia.
Edut ja haitat:
Edut:
– Tehokkuus: Teoäly voi tuottaa sisältöä hämmästyttävän nopeasti, mikä mahdollistaa viestien nopean levittämisen laajalle yleisölle.
– Kustannustehokkuus: Kehitettäessä tekoälyjärjestelmät voivat tuottaa valtavia määriä propagandaa ilman jatkuvia kustannuksia, joita liittyy ihmistyöhön.
– Mukautuvuus: Teoälyteknologioita voidaan nopeasti säätää kohdistamaan eri demografioita tai vastaamaan vastatoimiin.
Haitat:
– Petos: Teoälyn luoma sisältö voi olla erottamaton aidoista medioista, mikä rapauttaa luottamusta oikeisiin uutisiin ja monimutkaistaa äärijärjestöjen materiaalin tunnistamista.
– Haitallisten kertomusten vahvistaminen: Ääriainesten teoälykäyttö voi huomattavasti vahvistaa väkivaltaisia ideologioita ja edistää radikalisoitumista.
– Säätelyhaasteet: Tehokkaiden säädösten luominen, jotka pysyvät kehittyvän teknologian ja sen väärinkäytön tahdissa laillisen tekoälytutkimuksen ja kehityksen rajoittamatta, on erittäin monimutkaista.
Lisätiedon hankkimiseksi tekoälystä ja vastaterroismin toimista voit vierailla luotettavissa lähteissä kuten Yhdistyneissä Kansakunnissa, Europolissa ja tutkimuslaitoksissa, jotka erikoistuvat teknologiapolitiikkaan ja etiikkaan, kuten Carnegie Endowment for International Peace. Varmista aina lähteiden legitimiteetti ja vältä klikkaamasta epäilyttäviä linkkejä.
