Tehnologija kloniranja glasa značajno je napredovala, AI-generirani glasovi postaju jezivo slični ljudskim glasovima. Ova tehnologija nedavno je zloupotrebljena tijekom primarnih izbora Demokratske stranke u New Hampshireu s deepfake glasovnim porukama koje su poticali birače da preskoče glasanje na biralištima.
Izvještaji naznačuju da bi AI tehnologija mogla potencijalno preplaviti mreže s deepfake programima dizajniranim za obmanjivanje i urušavanje povjerenja, predstavljajući posebnu prijetnju kada AI-generirani glasovi oponašaju političke kandidate tijekom izbora.
U odgovoru na ove događaje, postoji rastuća zabrinutost među predsjednicom Federalne komisije za komunikacije (FCC) Jessicom Rosenworcel, koja poziva na akciju protiv AI-pokrenutih političkih robokola od strane glavnih telekomunikacijskih tvrtki poput AT&T-a i Comcast-a.
Rosenworcel je istaknula potrebu za suzbijanjem zlouporabe AI alata od strane zlonamjernih aktera, izjavivši: “Kako AI tehnologija postaje pristupačnija zlonamjernim akterima i prevarantima, moramo učiniti sve što je u našoj moći da ove prijetnje držimo podalje od naših mreža.”
Iako je uvelikana zabrana svih AI-vođenih robokola, političkih ili drugih, uvedena u veljači, glavne telekomunikacijske tvrtke još nisu objavile konkretne planove za provođenje zabrane.
Naime, državni državni odvjetnici ovlašteni su ovom mjerom za progon onih uključenih u AI-vođene robokole.
Rosenworcel također zagovara da političke kampanje otkriju svoje korištenje AI u TV i radio oglasima, kako je otkriveno u US News & World Reportu. Međutim, ovaj predloženi pothvat naišao je na protivljenje republikanske predsjednice FEC-a, Seana Cookseya, navodeći zabrinutosti zbog mogućih pravnih izazova.
AI Tehnologija Kloniranja Glasa: Adresiranje Ključnih Pitanja i Izazova
Uspon tehnologije kloniranja glasa AI postavlja mnoštvo pitanja i izazova s kojima se društvo mora suočiti dok se ova tehnologija nastavlja razvijati. Dok je prethodni članak dotaknuo potencijalnu zlouporabu AI-generiranih glasova u političkim scenarijima, postoje dodatne aspekte koje treba razmotriti.
Koje su manje poznate činjenice o tehnologiji kloniranja glasa AI?
Jedna manje poznata činjenica je da tehnologija kloniranja glasa AI nije ograničena na političke kontekste. Može imati primjene i u zabavi, korisničkoj službi, pa čak i osobnim glasovnim asistentima. Nadalje, razina točnosti i realizma u AI-generiranim glasovima neprekidno se poboljšava, čineći teže razlikovanje između ljudskog glasa i kloniranog AI glasa.
Koji su glavni prednosti i nedostaci tehnologije kloniranja glasa AI?
Prednosti tehnologije kloniranja glasa AI uključuju njezin potencijal za optimizaciju produkcije voiceovera, stvaranje personaliziranih glasovnih iskustava i pomoć osobama s govorom nedostacima. S druge strane, tehnologija pobuđuje zabrinutosti oko dezinformacija, kršenja privatnosti i urušavanja povjerenja u glasovne komunikacije.
Koji su ključni izazovi ili kontroverze povezane s kloniranjem glasa AI?
Jedan od glavnih izazova je etička upotreba tehnologije kloniranja glasa AI. Kao što je prikazano u slučaju političkih robokola spomenutog u prethodnom članku, zlonamjerni akteri mogu zloupotrijebiti ovu tehnologiju u svrhu obmane. Dodatno, problemi oko privole i privatnosti pojavljuju se kada se nečiji glas može klonirati bez njihovog znanja ili dopuštenja.
Kakvi se koraci poduzimaju za rješavanje ovih izazova?
U tijeku su napori za regulaciju korištenja tehnologije kloniranja glasa AI, poput zabrana određenih primjena poput političkih robokola. Međutim, nedostaje konkretnih planova za provođenje od strane glavnih telekomunikacijskih tvrtki. Regulatorna tijela poput FCC-a zagovaraju veću transparentnost političkih kampanja glede korištenja AI tehnologije u medijskim oglasima, ali neslaganja unutar regulatornih agencija ističu složenost upravljanja u ovom području.
Zaključno, širenje tehnologije kloniranja glasa AI pruža prilike i rizike za društvo. Dok dionici prolaze kroz evoluirajući pejzaž sintetičke glasovne tehnologije, bitno je obratiti pozornost na etička pitanja, regulatorne praznine i moguću zlouporabu kako bi se osiguralo da tehnologija kloniranja glasa AI služi javnom interesu.
Za više informacija o tehnologiji kloniranja glasa AI, posjetite Wired ili The Verge.