Kako se izbori u Indiji približavaju, rastu zabrinutosti oko utjecaja dubokih lazivaca umjetne inteligencije (AI) na političke kampanje. Duboki lazivci, koji su sintetičke i realistične slike i videozapisi, postali su sve prisutniji i sofisticiraniji proteklih godina. Mogu manipulirati govore političara i izgled, stvarajući osjećaj sumnje i nepovjerenja među biračima.
S dostupnošću jeftinih mobilnih podataka i visokom penetracijom pametnih telefona u Indiji, postoji strah da bi duboki lazivci mogli biti šireni putem platformi poput WhatsApp-a, utječući na odluke birača ili ih dovodeći u sumnju u važnost njihovih glasova.
Ministarstvo za elektroniku i informacijsku tehnologiju Indije nedavno je izdalo uputu generativnim AI tvrtkama. Uputa navodi da, ako ove tvrtke nude AI sustave koji su još uvijek u testiranju ili nepouzdani, moraju dobiti izričitu dozvolu od vlade i označiti izlazne rezultate odgovarajuće. Cilj je spriječiti generiranje ilegalnog ili obmanjujućeg sadržaja koji bi mogao ugroziti izborni proces.
Međutim, ova uputa naišla je na žestok otpor kako nacionalnih tako i međunarodnih igrača u području AI. Mnogi tvrde da koči inovacije i slobodu izražavanja. Ministar za elektroniku i informacijsku tehnologiju, Rajeev Chandrasekhar, pojasnio je da se uputa ne odnosi na startupe, što je pružilo olakšanje. Unatoč tome, zabrinutosti zbog zloupotrebe AI tehnologije i dalje postoje.
Kao odgovor na te zabrinutosti, Senthil Nayagam, osnivač start-upa Muonium AI, stvorio je ‘Manifest koalicije za etičku AI’ prije izbora. Ovaj manifest ima za cilj osigurati da se AI tehnologije koriste odgovorno i ne manipuliraju izbore, šire dezinformacije ili urušavaju povjerenje javnosti u političke institucije. Nayagam je kontaktirao oko 30 tvrtki, pri čemu su dvije već potpisale manifest, a tri su u procesu potpisivanja.
Ne sve AI kreacije su zlobni duboki lazivci namijenjeni kleveti protivnika. Neki programi, poput personaliziranih interaktivnih telefonskih poziva, služe kao noviteti umjesto prijetnji izbornom integritetu. Na primjer, političke stranke u Indiji koristile su sintetizirane glasove za slanje prethodno snimljenih poruka koje se obraćaju pojedinačnim biračima po imenu. Iako ovi programi mogu izgledati bezopasno, važno je uzeti u obzir potencijal za zloupotrebu.
Divyendra Singh Jadoun, kreator AI poznat kao The Indian Deepfaker, trenirao je modele glasova i videa AI kako bi distribuirao prilagođene poruke političkim strankama. Tvrdi da radi na “etičkim” AI kreacijama, poput ovlaštenih prijevoda i oživljavanja preminulih vođa, uz odobrenje stranke. Međutim, priznaje da kako tehnologija dubokog lažnjenja postaje dostupnija, stranke sve više proizvode vlastite duboke lazivce, što olakšava širenje dezinformacija.
Stručnjaci u području, poput Karen Rebelo s web stranice za provjeru činjenica BOOM, primijetili su značajan porast AI dubokih lazivaca tijekom nedavnih lokalnih izbora u Indiji. Tehnologija je postala jeftinija i dostupnija, omogućavajući bilo kome s prijenosnim računalom da stvara duboke lazivce. To izaziva zabrinutost o potencijalnom utjecaju dubokih lazivaca na pravednost i transparentnost izbora.
Iako su duboki lazivci AI uzrok zabrinutosti, također imaju potencijal biti korišteni za dobro. AI tehnologije mogu igrati pozitivnu ulogu u unapređenju demokratskog procesa, poput poboljšanja pristupačnosti za osobe s invaliditetom ili pružanja točnih prijevoda političkih govora. Ključ je osigurati da se ove tehnologije koriste etično i odgovorno.
Dok se Indija priprema za nadolazeće izbore, bitno je da vlada, AI tvrtke i političke stranke surađuju kako bi utvrdile jasne smjernice i propise za korištenje AI u političkim kampanjama. Prioritet treba biti transparentnost, odgovornost i integritet izbornog procesa, čime Indija može iskoristiti potencijal AI dok istovremeno smanjuje rizike koje ona nosi.
Izazovi i zabrinutosti vezani uz duboke lazivce u političkim kampanjama nisu ograničeni samo na Indiju. Upotreba tehnologije dubokih lazivaca postala je globalno pitanje s implikacijama za različite industrije i tržišta.
Industrija dubokih laživača spremna je za značajan rast u sljedećim godinama. Prema izvješću tvrtke MarketsandMarkets, globalno tržište dubokih lazivaca projektirano je doseći vrijednost od 304,3 milijuna dolara do 2026., rastući po godišnjoj stopi od 37,3% od 2021. do 2026. Ovaj rast tržišta može se pripisati sve većoj upotrebi AI tehnologije i rastućoj svijesti o dubokim lazivcima.
Potencijalni utjecaj dubokih lazivaca proteže se izvan političkih kampanja. Industrije poput zabave, cyber sigurnosti i novinarstva također se suočavaju s izazovima povezanim s tehnologijom dubokih lazivaca. U zabavnoj industriji, primjerice, duboki lazivci mogu se koristiti za manipuliranje izgleda glumaca ili stvaranje realnih virtualnih avatar. To postavlja pitanja o privatnosti, pravima intelektualnog vlasništva i autentičnosti sadržaja.
U području cyber sigurnosti, duboki lazivci predstavljaju značajnu prijetnju. Lažni videozapisi i slike mogu se koristiti za zavarati pojedince ili dobiti neovlašten pristup sustavima. Kibernetički kriminalci mogu iskoristiti duboke lazivce za izradu uvjerljivih phishing napada ili manipuliranje digitalnih dokaza tijekom pravnih postupaka.
Novinarstvo je još jedna industrija pogođena dubokim lazivcima. Širenje dezinformacija i urušavanje povjerenja javnosti značajni su izazovi s kojima se novinari suočavaju u doba dubokih lazivaca. Novinske organizacije moraju razviti snažne tehnike provjere činjenica i educirati javnost kako bi detektirali i provjerili autentičnost sadržaja.
Kao odgovor na rastuću prijetnju dubokih lazivaca, pojavile su se različite inicijative i organizacije kako bi se borile protiv njihovih negativnih učinaka. Jedna takva inicijativa je Natjecanje za otkrivanje dubokih lazivaca (DFDC), organizirano u suradnji između Facebooka, Microsofta, Partnerstva za AI i nekoliko akademskih institucija. DFDC ima za cilj razviti i unaprijediti metode otkrivanja kako bi identificirale duboke lazivce, pomažući time ograničiti njihovo širenje.
Odgovornost za rješavanje problema dubokih lazivaca proteže se izvan vladinih propisa i inicijativa industrije. I pojedinci također trebaju biti svjesni postojanja dubokih lazivaca i oprezni s sadržajem koji konzumiraju i dijele. Provjera činjenica, provjera izvora i promicanje medijske pismenosti ključni su koraci u borbi protiv širenja dubokih lazivaca.
I dok je suočavanje s dubokim lazivcima složen zadatak, napretkom u AI tehnologiji također se može iskoristiti za razvoj alata za otkrivanje i ublažavanje njihovog utjecaja. Algoritmi strojnog učenja mogu biti obučeni kako bi identificirali anomalije u videozapisima ili slikama i razlikovali autentičan sadržaj od manipuliranog. Neprestana istraživanja i suradnja između tehnoloških tvrtki, istraživača i donositelja politika ključni su kako bi se učinkovito riješili izazovi povezani s dubokom laži.
Izvori:
– Izvještaj tržišta dubokih lazivaca MarketsandMarkets
– Otkrivanje dubokih laži
The source of the article is from the blog elektrischnederland.nl