ByteDance sa pozera do novej oblasti hlasovej technológie tým, že testuje funkciu klonovania hlasu pre svoju vlajkovú loď aplikácie TikTok. Poháňaný umelej inteligenciou (AI), tento nástroj je navrhnutý tak, aby umožnil tvorcom vytvoriť syntetickú verziu svojho hlasu pre videonahrávanie, s cieľom zjednodušiť tvorbu obsahu a zároveň poskytnúť vysokú mieru prispôsobenia.
Vytvorte syntetický hlas za niekoľko sekúnd! Použitím konkrétnej frázy nahratej používateľom by mohla umele inteligencia replikovať hlas, ktorý odráža tón a spôsob hovorenia používateľa, a to v rýchlom čase asi desať sekúnd. Táto funkcia by mohla byť použitá na text-na-hlas v TikTok videách.
Experimentálny charakter tejto voľby klonovania hlasu odhalil AssembleDebug, pozorný analytik aplikácií, ktorý objavil náznaky „TikTok Voice Library“ a funkcie s názvom „Vytvorte svoj hlas s AI“ v kóde androidovej verzie TikToku. AssembleDebug tiež zachytil snímky obrazovky rozhrania a podmienky používania.
Zatiaľ čo snímky obrazoviek naznačujú, že používatelia môžu udržať úplnú kontrolu nad svojimi AI-generovanými hlasovými údajmi, vrátane možnosti kedykoľvek odstrániť svoj hlas, existujú obavy o potenciálne zneužitie. Predtým, než TikTok oficiálne oznámil túto funkciu, alebo ju dokonca zaviedol, existuje už obava týkajúca sa klonovania hlasov. Slávni tvorcovia obsahu našli svoju prácu neoprávnene replikovanú na platforme s klonovanými hlasmi.
Keď sa blížia voľby, tieto technologické pokroky by mohli predstavovať riziko pre integritu takýchto udalostí v dôsledku ľahkosti prístupu k AI hlasovým nástrojom. Proliferácia klonovania hlasu by mohla zhoršiť problémy s falošnými správami a podvodnými aktivitami. Napriek tomu spoločnosti pokračujú v posúvaní hraníc AI, čo je vidieť napríklad pri vývoji Voice Engine od OpenAI, nástroja na klonovanie hlasov, ktorý zatiaľ nie je verejnosti dostupný kvôli obavám o zneužitie identít. OpenAI si uvedomuje vážne riziká spojené s reprodukciou hlasov, ktoré by mohli byť použité klamlivo, najmä počas volebných období.
Klíčové otázky a odpovede:
– Ako funguje funkcia klonovania hlasu AI TikToku?
Funkcia klonovania hlasu AI funguje tak, že analyzuje krátky zvukový vzor nahraný používateľom a pomocou algoritmov AI vytvára syntetický hlas, ktorý napodobňuje hlasové charakteristiky používateľa. Tento proces je možné dokončiť približne za desať sekúnd a môže byť použitý pre aplikácie text-na-hlas v TikTok videách.
– Aké sú potenciálne obavy týkajúce sa funkcie klonovania hlasu?
Hlavné obavy zahŕňajú potenciálne zneužitie, ako sú vytváranie klamlivej alebo podvodnej obsahu, čo by mohlo mať závažné dôsledky, najmä v citlivých oblastiach ako voľby a distribúcia správ. Tiež sa vznášajú otázky týkajúce sa bezpečnosti, súhlasu a práv majiteľov hlasu.
Výzvy a kontroverzie:
Jednou z hlavných výziev spojených s klonovaním hlasu AI je riziko deepfake, čo sú syntetické médiá, v ktorých bol vzhľad osoby nahradený obrazom a hlasom generovaným AI. To môže viesť k situáciám, kde jednotlivci vyzerajú, že hovoria alebo robia veci, ktoré nikdy nerobili, čo by mohlo poškodiť povesti alebo šíriť dezinformácie.
Ďalšou kontroverziou sú nadchádzajúce osobné dôsledky na ochranu údajov. S možnosťou ukladať a replikovať hlasy sa otvára otázka, ako bezpečne sa budú hlasové údaje udržiavať a či by mohli byť zneužité, predané alebo uniknuté.
Hlasoví herci a profesionáli by mohli byť tiež ekonomicky ovplyvnení, pretože táto technológia by potenciálne mohla znížiť potrebu ich služieb pri tvorbe nahrávaného obsahu.
Výhody:
– Funkcia klonovania hlasu by mohla významne zvýšiť dostupnosť, umožňujúc používateľom, ktorí majú problémy so hovorením alebo preferujú nevyužitie svojho vlastného hlasu, stále vytvárať nahrávaný obsah.
– Mohla by šetriť čas a zdroje tvorcom, ktorí by inak museli nahrávať nové nahrávky hlasu pre každé video.
– Existuje potenciál pre prispôsobenie a kreatívny prejav, pretože tvorcovia by mohli modifikovať svoj hlas v jedinečných spôsoboch pre rôzne druhy obsahu.
Nevýhody:
– Potenciálne zneužitie vytváraním klamlivého alebo škodlivého obsahu.
– Vznáša etické otázky o súhlase a používaní niečieho podobizne bez ich explicitného povolenia.
– Obavy o bezpečnosť a súkromie hlasových údajov, vrátane toho, ako sa zbierajú, uchovávajú a potenciálne zdieľajú.
Pre viac informácií a aktualizácií týkajúcich sa technológií a softvéru týkajúcich sa tohto témy, navštívte hlavnú doménu spoločností, ktoré sa zapájajú do posúvania hraníc AI, ako je OpenAI na OpenAI a ByteDance na ByteDance. Je dôležité vždy zvažovať zdroj informácií, aby ste zabezpečili ich dôveryhodnosť.
The source of the article is from the blog zaman.co.at