Kun vaalikausi lähestyy Intiassa, huoli tekoälyn (AI) synteettisten videoiden vaikutuksista poliittisiin kampanjoihin on kasvanut. Synteettiset videot, joita kutsutaan deepfakeiksi, ovat tulleet yhä yleisemmiksi ja kehittyneemmiksi viime vuosina. Ne voivat manipuloida poliitikkojen puheita ja ulkonäköä, luoden epäilyksen ja epäluottamuksen tunnetta äänestäjien keskuudessa.
Intiassa, missä on saatavilla halpaa matkapuhelindataa ja korkea älypuhelinten läpäisy, on huolta siitä, että deepfakeja voitaisiin levittää WhatsAppin kaltaisten alustojen kautta, vaikuttaen äänestäjien päätöksiin tai herättäen epäilyksiä äänen merkityksestä.
Vastatakseen näihin huolenaiheisiin, Intian sähkö- ja tietotekniikan ministeriö on äskettäin antanut suosituksen generatiivisille AI-yrityksille. Suosituksessa todetaan, että jos nämä yritykset tarjoavat vielä testattavana olevia tai epäluotettavia AI-järjestelmiä, niiden on hankittava nimenomainen lupa hallitukselta ja merkittävä tuotokset asianmukaisesti. Tavoitteena on estää laittoman tai harhaanjohtavan sisällön tuottaminen, joka voisi heikentää vaaliprosessia.
Kuitenkin tämä suositus on kohdannut kovaa vastustusta sekä kansallisilta että kansainvälisiltä AI-toimijoilta. Monet väittävät, että se estää innovaatiota ja ilmaisunvapautta. Sähkö- ja tietotekniikkaministeri Rajeev Chandrasekhar selvensi, että suositus ei koske aloittavia yrityksiä, mikä toi jonkin verran helpotusta. Huolet AI-teknologian väärinkäytöstä kuitenkin jatkuvat.
Vastaamaan näihin huolenaiheisiin Senthil Nayagam, Muonium AI -yrityksen perustaja, on luonut ’Eettisen AI -koalition manifestin’ vaalien alla. Tämä manifesti pyrkii varmistamaan, että AI-teknologioita käytetään vastuullisesti eivätkä manipuloi vaaleja, levitä väärää tietoa tai heikennä luottamusta poliittisiin instituutioihin. Nayagam on ollut yhteydessä noin 30 yritykseen, joista kaksi on jo allekirjoittanut manifestin ja kolme on prosessissa allekirjoittamiseen.
Kaikki AI:n luomukset eivät ole syntisiä deepfakeja, jotka on tarkoitettu mustamaalaamaan vastustajia. Jotkut sovellukset, kuten personoidut interaktiiviset puhelut, toimivat ennemminkin uutuuksina kuin uhkina vaaliprosessin eheydelle. Esimerkiksi Intian poliittiset puolueet ovat käyttäneet syntetisoituja ääniä lähettääkseen ennakkoon tallennettuja viestejä, jotka kohdistuvat yksittäisiin äänestäjiin nimeltä mainiten. Vaikka nämä sovellukset saattavat näyttää harmitonlta, on tärkeää ottaa huomioon niiden mahdollinen väärinkäytön vaara.
Divyendra Singh Jadoun, nimeltään myös intialainen deepfaker, on kouluttanut ääni- ja videotekoälymalleja jakamaan räätälöityjä viestejä poliittisille puolueille. Hän väittää työskentelevänsä ’eettisten’ AI-luomusten parissa, kuten valtuutettujen käännösten ja edesmenneiden johtajien uudelleenelvyttämisten kanssa puolueiden hyväksynnällä. Hän kuitenkin myöntää, että deepfake-teknologian tultua helpommin saataville, puolueet tuottavat itsenäisesti yhä enemmän deepfakeja, mikä helpottaa väärän tiedon levittämistä.
Alan asiantuntijat, kuten Karen Rebelo faktantarkastussivustolta BOOM, ovat huomanneet merkittävän kasvun AI-deepfakeissa viimeaikaisissa osavaltiovaaleissa Intiassa. Teknologian tultua halvemmaksi ja helpommin saataville, kuka tahansa kannettavalla tietokoneella voi luoda deepfakeja. Tämä herättää huolia deepfakejen mahdollisesta vaikutuksesta vaalien oikeudenmukaisuuteen ja läpinäkyvyyteen.
Vaikka AI-synteettiset videot aiheuttavat huolta, niillä on myös potentiaalia hyödyntää positiivisessa mielessä. AI-teknologiat voivat pelata positiivista roolia demokraattisessa prosessissa parantamalla esteettömyyttä vammaisille äänestäjille tai tarjoamalla tarkkoja käännöksiä poliittisista puheista. Avain on varmistaa, että näitä teknologioita käytetään eettisesti ja vastuullisesti.
Intian valmistautuessa tuleviin vaaleihin on olennaista, että hallitus, AI-yritykset ja poliittiset puolueet työskentelevät yhdessä selkeiden ohjeiden ja säädösten aikaansaamiseksi AI:n käytölle poliittisissa kampanjoissa. Painottaen läpinäkyvyyttä, vastuullisuutta ja vaaliprosessin eheyttä Intia voi hyödyntää AI:n potentiaalia samalla kun lievittää sen aiheuttamia riskejä.
Synteettisiä videoita koskeva vaikutus ja huolenaiheet poliittisissa kampanjoissa eivät rajoitu pelkästään Intiaan. Synteettisen videon käyttö on kasvava ongelma maailmanlaajuisesti, ja sillä on vaikutuksia eri teollisuudenaloille ja markkinoille.
Synteettisen videon teollisuus on kasvussa tulevina vuosina. MarketsandMarketsin raportin mukaan globaalin deepfake-markkinan arvioidaan kasvavan arvoon 304,3 miljoonaa dollaria vuoteen 2026 mennessä, kasvaen yhdistetyllä vuotuisella kasvuprosentilla (CAGR) 37,3% vuodesta 2021 vuoteen 2026. Tämä markkinakasvu voidaan liittää kasvavaan tekoälyteknologian käyttöön ja syvävaleiden kasvavaan tietoisuuteen.
Synteettisten videoiden mahdollinen vaikutus ulottuu poliittisten kampanjoiden ulkopuolelle. Viihdeteollisuuden lisäksi esimerkiksi kyberturvallisuus- ja journalismialat kohtaavat haasteita koskien synteettistä videoteknologiaa. Viihdeteollisuudessa synteettistä videota voidaan käyttää näyttelijöiden ulkonäön manipulointiin tai realististen virtuaaliavatarojen luomiseen. Tämä herättää huolia yksityisyydestä, immateriaalioikeuksista ja sisällön aitoudesta.
Kyberturvallisuuden alalla synteettiset videot ovat merkittävä uhka. Väärennetyt videot ja kuvat voivat johtaa yksilöitä harhaan tai antaa luvattoman pääsyn järjestelmiin. Cyber-rikolliset voivat käyttää synteettisiä videoita luomaan vakuuttavia kalastushyökkäyksiä tai manipuloimaan digitaalista näyttöaineistoa oikeusprosesseissa.
Toinen ala, joka on vaikuttunut synteettisistä videoista, on journalismi. Väärän tiedon leviäminen ja julkisen luottamuksen heikentyminen ovat merkittäviä haasteita, joita toimittajat kohtaavat synteettisten videoiden aikakaudella. Uutisorganisaatioiden on kehitettävä vahvoja faktantarkistustekniikoita ja koulutettava yleisöä tunnistamaan ja vahvistamaan sisällön aitouden.
Vastaan kasvavaan synteettisten videoiden uhkaan on perustettu erilaisia aloitteita ja organisaatioita torjumaan niiden kielteisiä vaikutuksia. Yksi tällainen aloite on Deepfake Detection Challenge (DFDC), jonka järjestivät Facebook, Microsoft, Partnership on AI ja useat akateemiset laitokset. DFDC pyrkii kehittämään ja edistämään tunnistusmenetelmiä synteettisten videoiden tunnistamiseksi, auttaen rajoittamaan niiden leviämistä.
Vastuu synteettisten videoiden ongelmien käsittelemisestä ulottuu hallituksen säädöksiä ja teollisuuden aloitteita pidemmälle. Yksilöiden on myös oltava tietoisia synteettisten videoiden olemassaolosta ja varovaisia kuluttamansa ja jakamansa sisällön suhteen. Faktantarkistus, lähteiden vahvistaminen ja median lukutaidon edistäminen ovat olennaisia askeleita synteettisten videoiden leviämisen torjumisessa.
Vaikka synteettisten videoiden käsittely on monimutkainen tehtävä, tekoälyteknologian edistystä voidaan myös hyödyntää työkalujen kehittämiseen niiden tunnistamiseksi ja vaikutusten lieventämiseksi. Koneoppimisalgoritmit voidaan kouluttaa tunnistamaan poikkeamat videoista tai kuvista ja erottamaan aito sisältö manipuloidusta sisällöstä. Jatkuva tutkimus ja yhteistyö teknologiayritysten, tutkijoiden ja päättäjien välillä ovat ratkaisevan tärkeitä synteettisiin videoihin liittyvien haasteiden tehokkaassa kohtaamisessa.
Lähteet:
– MarketsandMarkets Deepfake Market Report
– Deepfake Detection
FAQ (Usein kysytyt kysymykset)
The source of the article is from the blog aovotice.cz