Tehnologija kloniranja glasova je znatno napredovala, pri čemu su glasovi generirani umjetnom inteligencijom postali jezivo slični ljudskim glasovima. Ova tehnologija nedavno je iskorištena tijekom primarnih izbora Demokratske stranke u New Hampshireu s lažnim glasovnim porukama koje su poticale birače da preskoče izbore.
Izvještaji pokazuju da bi AI tehnologija potencijalno mogla preplaviti mreže s programima dubokog lažiranja dizajnirane za zavaravanje i urušavanje povjerenja, predstavljajući posebnu prijetnju kada AI generirani glasovi preuzimaju identitet političkih kandidata tijekom izbora.
Kao odgovor na ove događaje, postoji rastuća zabrinutost predsjednice Federalne komisije za komunikacije (FCC) Jessice Rosenworcel, koja potiče vodeće telekomunikacijske tvrtke poput AT&T-a i Comcast-a da poduzmu akcije protiv AI-pokrenutih političkih automatskih poziva.
Rosenworcel je naglasila potrebu za suzbijanjem zlouporabe AI alata od strane zlonamjernih aktera, navodeći: “Kako AI tehnologija postaje dostupnija zlim akterima i prevarantima, moramo učiniti sve što je u našoj moći da ove prijetnje držimo podalje od naših mreža.”
Iako je zabrana svih AI-vođenih političkih ili drugih automatskih poziva provedena u veljači, glavne telekomunikacijske tvrtke još nisu objavile konkretni plan za provedbu.
Važno je napomenuti da državni tužitelji imaju ovlasti u sklopu ovog naloga za gonjenje onih uključenih u AI-vođene automatske pozive.
Rosenworcel također zagovara da političke kampanje otkriju svoje korištenje AI-a u TV i radio oglasima, kako je otkriveno od strane US News & World Report-a. Međutim, ova predložena inicijativa naišla je na otpor od strane republikanskog predsjednika FEC-a, Seana Cookseya, navodeći zabrinutost zbog mogućih pravnih izazova.
Tehnologija kloniranja AI glasa: Adresiranje ključnih pitanja i izazova
Rast tehnologije kloniranja AI glasa postavlja mnoštvo pitanja i izazova s kojima društvo mora se suočiti kako ova tehnologija nastavlja evoluirati. Iako je prethodni članak dotaknuo potencijalnu zloupotrebu AI-generiranih glasova u političkim scenarijima, postoji dodatna razmatranja.
Koje su manje poznate činjenice o AI tehnologiji kloniranja glasova?
Jedna manje poznata činjenica je da tehnologija kloniranja glasova AI-a nije ograničena samo na političke kontekste. Može se koristiti i u zabavi, korisničkoj podršci, pa čak i osobnim glasovnim asistentima. Nadalje, razina točnosti i stvarnosti u AI-generiranim glasovima stalno se poboljšava, čime se otežava razlikovanje između ljudskog glasa i kloniranog AI glasa.
Koji su glavni prednosti i nedostaci AI tehnologije kloniranja glasova?
Prednosti AI tehnologije kloniranja glasova uključuju njezin potencijal za pojednostavljanje produkcije voiceovera, kreiranje prilagođenih iskustava glasova te pomoć osobama sa govorom oštećenjima. S druge strane, tehnologija budi zabrinutost zbog dezinformacija, kršenja privatnosti te urušavanja povjerenja u glasovne komunikacije.
Koji su ključni izazovi ili kontroverze povezane s AI tehnologijom kloniranja glasova?
Jedan od glavnih izazova je etička upotreba AI tehnologije kloniranja glasova. Kao što je pokazano u slučaju političkih automatskih poziva spomenutih u prethodnom članku, zlonamjerni akteri mogu iskoristiti ovu tehniku u svrhu prijevare. Dodatno, pitanja oko pristanka i privatnosti nastaju kada se nečiji glas može klonirati bez njihovog znanja ili dopuštenja.
Kakvi koraci se poduzimaju kako bi se riješili ovi izazovi?
Poduzimaju se napori kako bi se regulirala upotreba AI tehnologije kloniranja glasova, kao što su zabrane određenih aplikacija poput političkih automatskih poziva. Međutim, nedostaje konkretni planovi provođenja od strane glavnih telekomunikacijskih tvrtki. Regulatorna tijela poput FCC-a zagovaraju povećanu transparentnost političkih kampanja u vezi korištenja AI-a u medijskom oglašavanju, ali neslaganja unutar regulatornih agencija ističu kompleksnost upravljanja u ovom području.
Zaključno, širenje tehnologije kloniranja glasova AI pruža kako mogućnosti tako i rizike za društvo. Dok dionici navigiraju kroz evoluirajuću pejzaž sintetičke glasovne tehnologije, ključno je adresirati etičke nedoumice, regulatorne praznine i moguću zloupotrebu kako bi se osiguralo da AI tehnologija kloniranja glasova služi javnom interesu.
Za više informacija o AI tehnologiji kloniranja glasova, posjetite Wired ili The Verge.