ByteDance er ute etter å utforske en ny verden av taleteknologi ved å teste en stemmekloningsfunksjon for sin flaggskip-app TikTok. Drevet av kunstig intelligens (AI) er dette verktøyet designet for å gi skapere muligheten til å lage en syntetisk versjon av stemmen sin for videofortelling, med sikte på å forenkle innholdsskaping samtidig som det tilbyr en høy grad av tilpasning.
Lag en syntetisk stemme på sekunder! Ved å bruke en bestemt frase som er innspilt av brukeren, kunne AI replikere en stemme som gjenspeiler brukerens tonefall og måte å snakke på, og oppnår dette på en rask vendingsperiode på omtrent ti sekunder. Denne funksjonen kan brukes til tekst-til-tale i TikTok-videoer.
Den eksperimentelle karakteren av denne stemmekloningsmuligheten ble avslørt av AssembleDebug, en ivrig app-analytiker, som oppdaget spor av en «TikTok stemmebibliotek» og en funksjon kalt «Lag stemmen din med AI» innen Android-versjonen av TikToks kode. AssembleDebug fanget også skjermbilder av grensesnittet og bruksvilkårene.
Mens skjermbilder indikerer at brukere kan beholde full kontroll over AI-genererte stemmedata, inkludert muligheten til å slette stemmen sin når som helst, dukker det opp bekymringer om potensielt misbruk. Før TikTok har offisielt kommunisert om denne funksjonen, eller til og med rullet den ut, er det allerede uro rundt stemmekloning. Kjente innholdsskapere har funnet sitt arbeid ulovlig replikert på plattformen med klonede stemmer.
Når valget nærmer seg, kan disse teknologiske fremskrittene utgjøre en risiko for integriteten til slike hendelser på grunn av den enkle tilgangen til AI-stemmeverktøy. Spredningen av stemmekloning kan forverre problemer med falske nyheter og svindelaktiviteter. Likevel fortsetter selskaper å skyve grensene for AI, slik man ser med OpenAIs utvikling av Voice Engine, et stemmekloningsverktøy som ennå ikke er utgitt til allmennheten på grunn av bekymringer rundt identitetsforfalskning. OpenAI erkjenner de alvorlige risikoene forbundet med reproduksjon av stemmer som kunne brukes villedende, spesielt i valgperioder.
Viktige spørsmål og svar:
– Hvordan fungerer TikToks AI-stemmekloningsfunksjon?
AI-stemmekloningsfunksjonen fungerer ved å analysere et kort lydprøveopptak som er gjort av brukeren og bruker AI-algoritmer for å lage en syntetisk stemme som etterligner brukerens vokale egenskaper. Denne prosessen kan fullføres på omtrent ti sekunder og kan brukes til tekst-til-tale-applikasjoner i TikTok-videoer.
– Hva er potensielle bekymringer knyttet til stemmekloningsfunksjonen?
De viktigste bekymringene inkluderer potensialet for misbruk, for eksempel å lage villedende eller svindelaktig innhold, som kunne ha alvorlige implikasjoner, spesielt innen følsomme områder som valg og nyhetsdistribusjon. Det reiser også spørsmål om sikkerhet, samtykke og rettighetene til stemmeeiere.
Utfordringer og kontroverser:
En av de primære utfordringene knyttet til AI-stemmekloning er risikoen for deepfakes, som er syntetiske medier der en persons likhet er erstattet med AI-genererte bilder og stemmer. Dette kan føre til situasjoner der enkeltpersoner ser ut til å si eller gjøre ting de aldri gjorde, og potensielt skade ryktene deres eller spre desinformasjon.
En annen kontrovers er de kommende personlige databeskyttelsesimplikasjonene. Med evnen til å lagre og replikere stemmer, oppstår spørsmålet om hvor sikkert stemmedataene vil bli oppbevart og om det kunne bli misbrukt, solgt eller lekket.
Stemmeskuespillere og fagfolk kan også bli påvirket økonomisk, ettersom denne teknologien potensielt kan redusere behovet for tjenestene deres til å lage narrert innhold.
Fordeler:
– Stemmekloningsfunksjonen kunne markant forbedre tilgjengeligheten, og tillate brukere som kanskje har problemer med å snakke eller foretrekker å ikke bruke sin egen stemme, å fortsatt lage narrert innhold.
– Det kunne spare tid og ressurser for skapere som ellers måtte spille inn ferske voiceovers for hver video.
– Det er potensiale for tilpasning og kreativ uttrykksform, da skapere kunne endre stemmen sin på unike måter for ulike typer innhold.
Ulemper:
– Potensiale for misbruk i å skape villedende eller skadelig innhold.
– Reiser etiske spørsmål om samtykke og bruken av en persons likhet uten deres eksplisitte tillatelse.
– Bekymringer om sikkerhet og personvern av stemmedataen, inkludert hvordan den samles inn, lagres og potensielt deles.
For mer informasjon og oppdateringer om teknologi og programvare knyttet til dette emnet, besøk hoveddomenet til selskapene som er involvert i å drive grensene for AI, som OpenAI på OpenAI og ByteDance på ByteDance. Det er viktig å alltid vurdere kilden til informasjonen for å sikre dens troverdighet.
The source of the article is from the blog tvbzorg.com