Ko se približuje volilna sezona v Indiji, se povečuje tudi zaskrbljenost glede vpliva globinskih posnetkov umetne inteligence (AI) na politične kampanje. Globinski posnetki, ki so sintetične in realistične slike ter videoposnetki, so v zadnjih letih postali bolj razširjeni in sofisticirani. Lahko manipulirajo govor politikov in njihov videz, ustvarjajo dvom in nezaupanje med volivci.
Z dostopnostjo poceni mobilnih podatkov in visoko stopnjo penetracije pametnih telefonov v Indiji se pojavljajo skrbi, da bi se globinski posnetki lahko širili prek platform, kot je WhatsApp, kar vpliva na odločitve volivcev ali skrbi, ali je njihov glas res pomemben.
Da bi naslovili te skrbi, je indijsko ministrstvo za elektroniko in informacijsko tehnologijo nedavno izdalo priporočilo generativnim podjetjem AI. V priporočilu je navedeno, da morajo ta podjetja ob ponudbi AI sistemov, ki so še vedno v testiranju ali niso zanesljivi, pridobiti izrecno dovoljenje vlade in ustrezno označiti izhode. Cilj je preprečiti generiranje nezakonitega ali zavajajočega vsebina, ki bi lahko ogrozila volilni proces.
Kljub temu je to priporočilo naletelo na ostre odzive tako domačih kot mednarodnih akterjev na področju AI. Mnogi trdijo, da ovira inovacije in svobodo izražanja. Minister za elektroniko in IT, Rajeev Chandrasekhar, je pojasnil, da priporočilo ne velja za zagonska podjetja, kar je nekoliko pomirilo. Vendar pa skrbi glede zlorabe tehnologije AI še vedno vztrajajo.
V odziv na te skrbi je Senthil Nayagam, ustanovitelj start-up podjetja Muonium AI, pred volitvami ustvaril ‘Manifest koalicije za etično AI’. Ta manifest si prizadeva, da se zagotovi odgovorna uporaba tehnologij AI in da se te ne uporabljajo za manipulacijo volitev, širjenje dezinformacij ali podiranje javnega zaupanja v politične ustanove. Nayagam se je obrnil na okoli 30 podjetij, pri čemer sta dve že podpisali manifest, trije pa so v postopku podpisovanja.
Vse umetne inteligence niso zlobni globinski posnetki, namenjeni blatiti nasprotnike. Nekatere aplikacije, kot so personalizirani interaktivni telefonski klici, služijo bolj kot novost in ne kot grožnja integriteti volitev. Na primer, politične stranke v Indiji so uporabile sintetizirane glasove za pošiljanje predhodno posnetih sporočil posameznim volivcem po imenu. Čeprav se te aplikacije zdijo nedolžne, je pomembno razmisliti o potencialni zlorabi.
Divyendra Singh Jadoun, ustvarjalec AI, znan kot indijski ustvarjalec globinskih posnetkov, je treniral modele glasov in videov AI za distribucijo prilagojenih sporočil političnim strankam. Trdi, da dela na “etičnih” ustvarjanjih AI, kot so pooblaščena prevajanja in obujanja preminulih voditeljev, s soglasjem stranke. Vendar priznava, da se tehnologija globinskih posnetkov postaja bolj dostopna, kar omogoča strankam enostavnejšo proizvodnjo lastnih globinskih posnetkov in s tem lažje širjenje dezinformacij.
Strokovnjaki na tem področju, kot je Karen Rebelo s spletne strani za preverjanje dejstev BOOM, so opazili pomemben porast globinskih posnetkov AI med nedavnimi volitvami v zveznih državah v Indiji. Tehnologija postaja cenejša in bolj dostopna, kar omogoča vsakomur z računalnikom ustvarjanje globinskih posnetkov. To dviga skrbi glede morebitnega vpliva globinskih posnetkov na poštenost in preglednost volitev.
Medtem ko so globinski posnetki AI razlog za skrb, imajo tudi potencial za uporabo v dobro. Tehnologije AI lahko igrajo pozitivno vlogo pri izboljšanju demokratičnega procesa, na primer pri izboljšanju dostopnosti za invalide volivce ali zagotavljanju natančnih prevodov političnih nagovorov. Ključ je v zagotavljanju, da se te tehnologije uporabljajo etično in odgovorno.
Ko se Indija pripravlja na prihajajoče volitve, je bistveno, da vlada, podjetja AI in politične stranke sodelujejo pri vzpostavljanju jasnih smernic in predpisov za uporabo AI v političnih kampanjah. Z osredotočanjem na preglednost, odgovornost in integriteto volilnega procesa lahko Indija izkoristi potencial AI in hkrati zmanjša tveganja, ki jih prinaša.
Vpliv in skrbi glede globinskih posnetkov v političnih kampanjah niso omejeni le na Indijo. Uporaba tehnologije globinskih posnetkov je postala globalno vprašanje z implikacijami za različne industrije in trge.
Industrija globinskih posnetkov se napoveduje za pomembno rast v prihodnjih letih. Po poročilu MarketsandMarkets naj bi globalni trg globinskih posnetkov do leta 2026 dosegel vrednost 304,3 milijona dolarjev, z rastjo sestavljene letne stopnje rasti (CAGR) 37,3% od leta 2021 do 2026. Ta tržna rast je mogoče pripisati vse večji uporabi tehnologije AI in rastoči osveščenosti o globinskih posnetkih.
Potencialni vpliv globinskih posnetkov presega politične kampanje. Industrije, kot so zabava, kibernetska varnost in novinarstvo, se soočajo tudi z izzivi, povezanimi s tehnologijo globinskih posnetkov. V zabavni industriji se globinske posnetke lahko uporablja za manipulacijo pojavov igralcev ali ustvarjanje realističnih virtualnih avatarjev. To povzroča skrbi glede zasebnosti, pravic intelektualne lastnine in avtentičnosti vsebine.
V kibernetski varnosti predstavljajo globinski posnetki pomembno grožnjo. Ponarejeni videi in slike se lahko uporabljajo za zavajanje posameznikov ali pridobivanje neupravičenega dostopa do sistemov. Kibernetski kriminalci lahko izkoristijo globinske posnetke za ustvarjanje prepričljivih napadov s prevaro ali manipulacijo digitalnih dokazov med pravnimi postopki.
Tudi novinarstvo je industrija, ki jo prizadenejo globinski posnetki. Širjenje dezinformacij in erozija javnega zaupanja sta pomembni izzivi, s katerimi se soočajo novinarji v dobi globinskih posnetkov. Novičarske organizacije morajo razviti robustne tehnike preverjanja dejstev in izobraževati javnost o prepoznavanju in preverjanju avtentičnosti vsebine.
V odziv na naraščajočo grožnjo globinskih posnetkov so nastale različne pobude in organizacije, ki se borijo proti njihovim negativnim učinkom. Ena takšna pobuda je izziv odkrivanja globinskih posnetkov (DFDC), ki ga organizira sodelovanje med Facebookom, Microsoftom, Partnerstvom o AI in več akademskimi institucijami. Cilj DFDC je razviti in izboljšati metode odkrivanja za prepoznavanje globinskih posnetkov, kar pomaga omejiti njihovo širjenje.
Odgovornost za obravnavanje vprašanja globinskih posnetkov presega ureditve vlade in pobude industrije. Posamezniki morajo prav tako biti pozorni na obstoj globinskih posnetkov in previdni pri vsebini, ki jo porabijo in delijo. Preverjanje informacij, preverjanje virov in spodbujanje medijske pismenosti so ključni koraki pri spopadanju s širjenjem globinskih posnetkov.
Čeprav je odpravljanje globinskih posnetkov kompleksen izziv, lahko napredki v tehnologiji AI služijo tudi za razvoj orodij za odkrivanje in omilitev njihovega vpliva. Algoritmi strojnega učenja se lahko izurijo za prepoznavanje anomalij v videoposnetkih ali slikah ter ločevanje med avtentično in manipulirano vsebino. Trajne raziskave in sodelovanje med tehnološkimi podjetji, raziskovalci in oblikovalci politik so ključni pri učinkovitem reševanju izzivov, povezanih z globinskimi posnetki.
Povezane povezave:
– MarketsandMarkets Poročilo o trgu globinskih posnetkov
– Odkrivanje globinskih posnetkov
FAQ
The source of the article is from the blog elperiodicodearanjuez.es