Tehnologija kloniranja glasa napredovala je značajno, pri čemu su AI-generirani glasovi postali jezivo slični ljudskim glasovima. Nedavno je ova tehnologija iskorištena tijekom prvih izbora Demokratske stranke u New Hampshireu s deepfake glasovnim porukama koje pozivaju birače da preskoče birališta.
Izvještaji ukazuju da bi AI tehnologija mogla potencijalno preplaviti mreže sa deepfake programima osmišljenima da zavaraju i podrivaju povjerenje, predstavljajući posebnu prijetnju kada se AI-generirani glasovi pretvaraju da su politički kandidati tijekom izbora.
U odgovoru na ove događaje, postoji rastuća zabrinutost od strane predsjednice Federalne komunikacijske komisije (FCC) Jessice Rosenworcel, koja poziva glavne telekomunikacijske tvrtke poput AT&T i Comacasta da poduzmu mjere protiv AI-pokretanih političkih robokola.
Rosenworcel je istaknula potrebu da se suzbije zloupotreba AI alata od strane zlonamjernih aktera, izjavivši: “Dok AI tehnologija postaje dostupnija zlonamjernim akterima i prevarantima, moramo učiniti sve što je u našoj moći kako bismo održali te prijetnje izvan naših mreža.”
Iako je zabrana svih AI-pokrenutih robokola, političkih ili drugih, stupila na snagu u veljači, glavne telekomunikacijske tvrtke još nisu objavile nikakve konkretne planove za provedbu.
Napomena: Državnim tužiteljima dodijeljena je ovlaštenja u skladu s ovim mandatom za gonjenje onih koji su uključeni u AI-pokretne robokole.
Rosenworcel također potiče političke kampanje da otkriju svoju upotrebu AI u televizijskim i radijskim reklamama, kako je otkriveno u US News & World Report. Međutim, ovaj prijedlog je naišao na otpor od strane republikanskog predsjednika FEC-a, Seana Cookseya, koji navodi zabrinutost zbog mogućih pravnih izazova.
Tehnologija kloniranja glasa pomoću AI-a: Adresiranje ključnih pitanja i izazova
Pojavljivanje tehnologije kloniranja glasa pomoću AI-a postavlja mnoštvo pitanja i izazova s kojima društvo mora suočiti kako ova tehnologija nastavlja evoluirati. Dok je prethodni članak dotaknuo potencijalnu zloupotrebu AI-generiranih glasova u političkim situacijama, postoje dodatni aspekti koje treba uzeti u obzir.
Koji su manje poznati činjenice o tehnologiji kloniranja glasa pomoću AI-a?
Jedna manje poznata činjenica je da se tehnologija kloniranja glasa pomoću AI-a ne ograničava samo na političke kontekste. Može imati primjene i u zabavi, korisničkoj podršci i čak osobnim glasovnim asistentima. Nadalje, razina točnosti i realizma u AI-generiranim glasovima kontinuirano se poboljšava, čineći teže razlikovanje između ljudskog glasa i kloniranog AI glasa.
Koje su glavne prednosti i nedostaci tehnologije kloniranja glasa pomoću AI-a?
Prednosti tehnologije kloniranja glasa pomoću AI-a uključuju njezin potencijal da pojednostavi produkciju voiceovera, stvori prilagođena iskustva glasa te pomogne osobama s poteškoćama u govoru. S druge strane, tehnologija izaziva zabrinutosti u vezi s dezinformacijama, kršenjem privatnosti i erozijom povjerenja u komunikaciju glasom.
Koji su glavni izazovi ili kontroverze povezani s tehnologijom kloniranja glasa pomoću AI-a?
Jedan od glavnih izazova je etička primjena tehnologije kloniranja glasa pomoću AI-a. Kao što je prikazano u slučaju političkih robokola spomenutih u prethodnom članku, zlonamjerni akteri mogu iskoristiti ovu tehnologiju u svrhe obmane. Dodatno, pitanja oko pristanka i privatnosti nastaju kada se nečiji glas može klonirati bez njihovog znanja ili dopuštenja.
Koji koraci se poduzimaju kako bi se riješili ovi izazovi?
Poduzimaju se napori kako bi se regulirala uporaba tehnologije kloniranja glasa pomoću AI-a, poput zabrana određenih aplikacija poput političkih robokola. Međutim, i dalje postoji nedostatak konkretnih planova provedbe od strane glavnih telekomunikacijskih tvrtki. Regulatorna tijela poput FCC-a zagovaraju veću transparentnost od političkih kampanja vezano uz upotrebu AI u medijskim oglasima, no neslaganja unutar regulatornih agencija ističu kompleksnost upravljanja u ovom području.
Na kraju, širenje tehnologije kloniranja glasa pomoću AI-a pruža prilike i rizike za društvo. Dok dionici navigiraju kroz evoluirajući pejzaž sintetičke glasovne tehnologije, bitno je adresirati etička razmatranja, regulatorne praznine i potencijalnu zloupotrebu kako bi se osiguralo da tehnologija kloniranja glasa pomoću AI-a služi javnom interesu.
Za više informacija o tehnologiji kloniranja glasa pomoću AI-a, posjetite Wired ili The Verge.