Tehnologija kloniranja glasa značajno je napredovala, pri čemu su glasovi generirani umjetnom inteligencijom postali jezivo slični ljudskim glasovima. Nedavno je ova tehnologija iskorištena tijekom primarnih izbora Demokratske stranke u New Hampshireu uz deepfake glasovne poruke koje su poticala birače da preskoče glasanje na izborima.
Izvještaji ukazuju da bi AI tehnologija mogla potencijalno preplaviti mreže s programima deepfake koji su dizajnirani za zavaravanje i urušavanje povjerenja, predstavljajući posebnu prijetnju kada AI generirani glasovi imitiraju političke kandidate tijekom izbora.
U odgovoru na ove događaje, postoji rastuća zabrinutost predsjednice Federalne komisije za komunikacije (FCC) Jessice Rosenworcel, koja poziva vodeće telekomunikacijske tvrtke poput AT&T-a i Comcata da poduzmu akcije protiv AI potpomognutih političkih telefonskih robokola.
Rosenworcel naglašava potrebu za suzbijanjem zlouporabe AI alata od strane zlonamjernih aktera, izjavljujući: “Kako AI tehnologija postaje dostupnija zlonamjernim akterima i prevarantima, moramo učiniti sve u našoj moći da ove prijetnje držimo podalje od naših mreža.”
Unatoč zabrani svih AI vođenih robokola, političkih ili drugačijih, koja je stupila na snagu u veljači, glavne telekomunikacijske tvrtke još nisu najavile konkretne planove za provedbu ovog pravila.
Važno je napomenuti da su državni odvjetnici ovlašteni u ovlastima prema toj naredbi da gone one koji su uključeni u AI vođene robokole.
Rosenworcel također zagovara da političke kampanje otkriju svoje korištenje AI u TV i radio reklamama, kako su otkrili US News & World Report. Međutim, ovaj predloženi projekt naišao je na oporbu od strane republikanskog predsjednika FEC-a, Seana Cookseya, pozivajući se na zabrinutosti oko mogućih pravnih izazova.
Tehnologija Kloniranja Glasa uz Pomoć AI: Adresa ključnih pitanja i izazova
Uspon tehnologije kloniranja glasa uz pomoć AI postavlja niz pitanja i izazova s kojima društvo mora savladati kako bi se ova tehnologija nastavila razvijati. Iako je prethodni članak spomenuo potencijalnu zlouporabu AI generiranih glasova u političkim scenarijima, postoje dodatni aspekti koje treba uzeti u obzir.
Koji su manje poznati činjenice o tehnologiji kloniranja glasa uz pomoć AI?
Jedna manje poznata činjenica je da tehnologija kloniranja glasa uz pomoć AI nije ograničena samo na političke kontekste. Može imati primjene i u zabavi, korisničkoj usluzi, pa čak i osobnim glasovnim asistentima. Nadalje, razina točnosti i realizma u AI generiranim glasovima kontinuirano se poboljšava, čineći težim razlikovanje između ljudskog glasa i kloniranog AI glasa.
Koje su glavne prednosti i nedostaci tehnologije kloniranja glasa uz pomoć AI?
Prednosti tehnologije kloniranja glasa uz pomoć AI uključuju njezin potencijal za unapređenje produkcije naracije, stvaranje prilagođenih glasovnih iskustava i pomoć osobama s poteškoćama u govoru. S druge strane, tehnologija izaziva zabrinutost zbog dezinformacija, kršenja privatnosti i erozije povjerenja u glasovne komunikacije.
Koji su ključni izazovi ili kontroverze povezane s kloniranjem glasa uz pomoć AI?
Jedan od glavnih izazova je etička upotreba tehnologije kloniranja glasa uz pomoć AI. Kao što je prikazano u slučaju političkih robokola spomenutih u prethodnom članku, zlonamjerni akteri mogu iskoristiti ovu tehnologiju u svrhe obmane. Dodatno, problemi oko pristanka i privatnosti nastaju kada se nečiji glas može klonirati bez njihovog znanja ili dopuštenja.
Koje korake poduzimaju kako bi se suočili s ovim izazovima?
Pokušaji su u tijeku za reguliranje korištenja tehnologije kloniranja glasa uz pomoć AI, poput zabrane određenih primjena poput političkih robokola. Međutim, još uvijek nedostaju konkretni planovi provođenja od strane vodećih telekomunikacijskih tvrtki. Regulatorna tijela poput FCC-a zagovaraju veću transparentnost političkih kampanja u vezi korištenja AI u medijskim reklamama, no neslaganja unutar regulatornih agencija naglašavaju kompleksnost upravljanja u ovom području.
Zaključno, širenje tehnologije kloniranja glasa uz pomoć AI pruža prilike i rizike za društvo. Kako dionici upravljaju evoluirajućim krajolikom sintetičke glasovne tehnologije, važno je adresirati etičke consideracije, regulatorne praznine i moguću zlouporabu kako bi se osiguralo da kloniranje glasa uz pomoć AI služi javnom interesu.
Za više informacija o tehnologiji kloniranja glasa uz pomoć AI, posjetite Wired ili The Verge.