OpenAI:n älykästä tiimiä tutkii tekoälyyn perustuvia vaikuttamiskampanjoita
Ben Nimmo, OpenAI:n tiedustelututkimuksen johtaja, on paljastavassa keskustelussa valittujen japanilaisten medioiden, kuten The Mainichi Newspapersin kanssa, paljastanut ulkomaisia vaikuttamistoimia Japania vastaan muun muassa. Tällä hetkellä tekoälyn merkittävin käyttö näissä juonissa on tekstien luominen.
Haitallisen tekoälyn käytön tunnistaminen OpenAI:ssa
OpenAI on edistynyt vuorovaikutteisen tekoälyn, kuten ChatGPT:n, parissa. Toukokuun 30. päivänä julkaistun raportin mukaan yritys havaitti ja keskeytti tilejä, jotka oli linkitetty viiden ryhmän toimintaan Venäjällä, Kiinassa ja Israelissa muiden muassa, koska ne käyttivät tekoälyään vaikuttamistoimissa. Näissä havainnoissa mainittava seikka oli verkosto, jolla väitettiin olevan yhteys kiinalaisiin lainvalvontaviranomaisiin, ja jota kutsuttiin ”Spamouflageksi”. He olivat luoneet japaninkielisiä kertomuksia vastustaakseen Fukushiman Daiichin ydinvoimalasta mereen laskettavan käsitellyn veden vapauttamista käyttämällä OpenAI:n tekniikkaa, ja levittivät näitä kertomuksia laajasti blogialustoilla.
Vaikuttamiskampanjoiden määrittely
Nimmo luonnehtii vaikuttamistoimia peitellyiksi yrityksiksi vaikuttaa kansalaisten mielipiteeseen tai vaikuttaa poliittisiin tapahtumiin paljastamatta toimijoiden henkilöllisyyttä tai tarkoitusperiä – ja tämä on räikeä ero pelkkään virheellisen tai epätarkan tiedon levittämiseen. Hän korostaa tutkimuksen tärkeyttä, ei ainoastaan sisällön, vaan myös näiden toimintojen orkestroivien tahojen ja heidän käyttäytymismallien, tutkimisessa.
Vaikka perusteellisen tutkimuksen jälkeen ei löydetty muita alkuperäisiä Japaniin kohdistuvia vaikuttamiskampanjoita kuin ”Spamouflage,” eikä marraskuun Yhdysvaltain presidentinvaaleihin kohdistuneita operaatioita tunnistettu. Pääasiassa tekoälyä on käytetty some- tai blogikirjoituksiin tekstien laatimiseen tai kääntämiseen näissä vaikuttamispyrkimyksissä. Luotujen kuvien väärinkäyttö oli vähäistä.
Hienoinen raja yrityksen ja todellisen mielipiteiden manipuloinnin välillä
Nimmo erottaa myös tarkoituksen manipuloida kansalaisten mielipidettä ja todellisen manipulaation onnistuneen toteutuksen, osoittaen, että vaikuttavaa vaikutusta ei havaittu tässä tutkimuksessa. Hän kuitenkin korosti tekoälyn käyttämien mahdollisten vastatoimenpiteiden mahdollisuutta, mikä voi merkittävästi lyhentää analyysitehtävien kestoa tuntien tai päivien sijaan jopa muutamiin minuutteihin.
Ben Nimmolla on huomattava tausta, hän on toiminut perustajana Digital Forensic Research Lab:ssa Atlantic Councilin kanssa ja tehnyt tutkimuksia järjestäytyneestä epärehellisestä toiminnasta niin kotimaisista kuin kansainvälisistä lähteistä myös Metassa.
Haasteet ja kiistat tekoälyyn perustuvissa vaikuttamiskampanjoissa
Ulkomaisen vaikuttamisen paljastaminen ja hillitseminen, jotka hyödyntävät OpenAI:n kehittämiä tekoälytekniikoita, tuottavat useita haasteita ja kiistoja:
– Erottelu legitiimin ja haitallisen käytön välillä: Te
”`