Tehnologija kloniranja glasu se je pomembno razvila, pri čemer so glasovi, ustvarjeni z umetno inteligenco, postali strašno podobni človeškim glasovom. Ta tehnologija je nedavno bila izkoriščena med primarnimi volitvami Demokratske stranke v New Hampshiru s pomočjo deepfake glasovnih sporočil, ki so volivce pozivala, naj preskočijo volišča.
Poročila kažejo, da bi lahko AI tehnologija potencialno poplavila omrežja z deepfake programi, namenjenimi prevaram in izgubi zaupanja, kar predstavlja posebno grožnjo, ko se AI-generirani glasovi izdajajo za politične kandidate med volitvami.
Kot odziv na te dogodke se povečuje zaskrbljenost predsednice Federalne komisije za komunikacije (FCC) Jessice Rosenworcel, ki poziva glavna telekomunikacijska podjetja, kot sta AT&T in Comcast, naj ukrepajo proti političnim roboklicem, ki jih poganja AI.
Rosenworcel je poudarila potrebo po boju proti zlorabi AI orodij s strani zlonamernih akterjev ter izjavila: “Ko postaja AI tehnologija dostopnejša zlonamernim akterjem in goljufom, moramo storiti vse, kar je v naši moči, da te grožnje zadržimo iz naših omrežij.”
Čeprav je bil februarja uveden prepoved vseh AI pogonjenih roboklicev, ne glede na to, ali so politični ali ne, glavna telekomunikacijska podjetja še niso napovedala nobenih konkretnih načrtov za izvršitev.
Pomembno je omeniti, da so generalni državni tožilci po tem mandatu pooblaščeni za preganjanje tistih, ki so vpleteni v AI pogonjene roboklice.
Rosenworcel prav tako potiska politične kampanje, naj razkrijejo svojo uporabo AI v televizijskih in radijskih oglasih, kar je razkrila revija US News & World Report. Vendar pa je ta predlagana pobuda naletela na odpor predsednika republikancev na Komisiji za volilne kampanje (FEC) Seana Cookseya, ki navaja skrbi glede morebitnih pravnih izzivov.
Tehnologija kloniranja glasu z uporabo AI: Naslavljanje ključnih vprašanj in izzivov
Vzpon tehnologije kloniranja glasu z uporabo umetne inteligence postavlja vrsto vprašanj in izzivov, s katerimi se mora družba spoprijeti, saj se ta tehnologija nadaljuje s svojim razvojem. Članek je sicer obravnaval potencialno zlorabo AI ustvarjenih glasov v političnih scenarijih, obstajajo pa tudi dodatni vidiki, na katere je treba pomisliti.
Kakšna so manj znana dejstva o tehnologiji kloniranja glasu z uporabo AI?
Eno izmed manj znanih dejstev je, da tehnologija kloniranja glasu z uporabo AI ni omejena samo na politične kontekste. Lahko ima tudi aplikacije na področju zabave, storitev strankam in celo osebnih asistentov za glas. Poleg tega se natančnost in realističnost AI-generiranih glasov nenehno izboljšuje, kar otežuje razlikovanje med človeškim glasom in kloniranim AI glasom.
Kakšne so glavne prednosti in slabosti tehnologije kloniranja glasu z uporabo AI?
Prednosti tehnologije kloniranja glasu z uporabo AI vključujejo njeno potencialno poenostavitev produkcije govornih posnetkov, ustvarjanje prilagojenih glasovnih izkušenj in pomoč posameznikom z govorimi motnjami. Po drugi strani pa tehnologija dviguje skrbi glede dezinformacij, kršitev zasebnosti in erozije zaupanja v glasovne komunikacije.
Kakšni so ključni izzivi ali kontroverze, povezane s tehnologijo kloniranja glasu z uporabo AI?
Eden izmed glavnih izzivov je etična uporaba tehnologije kloniranja glasu z uporabo AI. Kot je bilo prikazano v primeru političnih roboklicev, omenjenih v prejšnjem članku, lahko zlonamerni akterji zlorabijo to tehnologijo z namenom prevar. Poleg tega se pojavijo vprašanja v zvezi s soglasjem in zasebnostjo, ko lahko nekoga glas klonirajo brez njegove vednosti ali dovoljenja.
Kakšni koraki se sprejemajo za naslovitev teh izzivov?
Potekajo prizadevanja za regulacijo uporabe tehnologije kloniranja glasu z uporabo AI, kot so prepovedi določenih aplikacij, kot so politični roboklici. Kljub temu pa še vedno primanjkuje konkretnih načrtov za izvajanje s strani glavnih telekomunikacijskih podjetij. Regulativne agencije, kot je FCC, zagovarjajo večjo preglednost političnih kampanj glede uporabe AI v medijskih oglasih, vendar nesoglasja med regulativnimi agencijami kažejo na kompleksnost upravljanja na tem področju.
V zaključku, hitra razširitev tehnologije kloniranja glasu z uporabo AI predstavlja tako priložnosti kot tudi tveganja za družbo. Medtem ko deležniki navigirajo skozi razvijajoč se pokrajino sintetične glasovne tehnologije, je bistveno nasloviti etične premisleke, regulatorne vrzeli in možno zlorabo, da se zagotovi, da tehnologija kloniranja glasu z uporabo AI služi javnemu interesu.
Za več informacij o tehnologiji kloniranja glasu z uporabo AI, obiščite Wired ali The Verge.