Technológia klonovania hlasu výrazne pokročila, pričom hlasové generované umelou inteligenciou sa stali pôsobivo podobné ľudským hlasom. Táto technológia bola nedávno zneužitá počas primárnych volieb Demokratickej strany v New Hampshire s deepfake hlasovými správami, ktoré vyzývali voličov, aby preskočili volebné miesta.
Správy naznačujú, že technológia umelou inteligenciou by potenciálne mohla zaplaviť siete deepfake programami navrhnutými na zavádzanie a podkopávanie dôvery, čo predstavuje špecifické hrozby, keď AI-generované hlasy zosmiešňujú politických kandidátov počas volieb.
V reakcii na tieto udalosti existuje rastúca obava od predsedníčky Federálnej komisie pre komunikácie (FCC) Jessicy Rosenworcelovej, ktorá vyzýva hlavné telekomunikačné spoločnosti ako AT&T a Comcast, aby prijali opatrenia proti politickým robokalom s pohonom AI.
Rosenworcel zdôrazňuje potrebu bojovať proti zneužívaniu nástrojov AI zlomyseľnými aktérmi a účelne deklaruje: „Keď sa technológia AI stane prístupnejšou pre zlomyseľných aktérov a podvodníkov, musíme urobiť všetko, čo je v našich silách, aby sme udržali tieto hrozby mimo našich sietí.“
Hoci celoplošný zákaz všetkých AI-poháňaných robokalov, politických aj iných, bol zavedený v februári, hlavné telekomunikačné spoločnosti ešte neoznámili žiadne konkrétne plány na vykonávanie kontroly.
Je dôležité podotknúť, že generálni prokurátori majú pod týmto mandátom právomoc stíhať tých, ktorí sú zapojení do AI-poháňaných robokalov.
Rosenworcel zdôrazňuje aj požiadavku politických kampaní na zverejňovanie ich používania AI v televíznych a rozhlasových reklamách, ako uviedlo US News & World Report. Tento navrhovaný iniciatíva však narazila na odpor predsedu Republikánskej komisie pre voľby (FEC) Seana Cookseyho, ktorý uvádza obavy o možné právne problémy.
Technológia klonovania hlasu umelou inteligenciou: Riešenie kľúčových otázok a výziev
Vzostup technológie klonovania hlasu umelou inteligenciou prináša množstvo otázok a výziev, s ktorými sa musí spoločnosť vyrovnať, keď sa táto technológia ďalej rozvíja. Zatiaľčo predchádzajúci článok sa zaoberal potenciálnym zneužitím hlasov vygenerovaných umelou inteligenciou v politických scenároch, treba zvážiť ďalšie aspekty.
Aké sú niektoré menej známe skutočnosti o technológii klonovania hlasu umelou inteligenciou?
Jednou menej známou skutočnosťou je, že technológia klonovania hlasu umelou inteligenciou nie je obmedzená len na politické kontexty. Môže mať aj aplikácie v zábave, zákazníckej službe a dokonca aj v osobných hlasových asistentoch. Okrem toho sa úroveň presnosti a realismu v hlasoch generovaných umelou inteligenciou neustále zlepšuje, čo robí ťažké rozlíšiť medzi ľudským hlasom a klonovaným hlasom AI.
Aké sú hlavné výhody a nevýhody technológie klonovania hlasu umelou inteligenciou?
Výhody technológie klonovania hlasu umelou inteligenciou zahŕňajú jej potenciál na zjednodušenie produkcie voiceoverov, vytváranie vlastných hlasových zážitkov a pomoc osobám s rečovými poruchami. Na druhej strane však technológia vyvoláva obavy o dezinformácie, porušenia súkromia a podkopávanie dôvery v hlasovú komunikáciu.
Aké sú hlavné výzvy alebo kontroverzie spojené s klonovaním hlasu umelou inteligenciou?
Jednou hlavnou výzvou je etické použitie technológie klonovania hlasu umelou inteligenciou. Ako to bolo preukázané v prípade politických robokalov uvedených v predchádzajúcom článku, zlomyseľní aktéri môžu túto technológiu zneužiť na klamlivé účely. Okrem toho sa objavujú problémy týkajúce sa súhlasu a súkromia, keď môže byť hlas niekoho klonovaný bez jeho vedomia alebo povolenia.
Aké kroky sa podnikajú na riešenie týchto výziev?
Prebiehajú snahy o regulovanie používania technológie klonovania hlasu umelou inteligenciou, ako napríklad zákazy určitých aplikácií ako politických robokalov. Avšak naďalej chýbajú konkrétne plány na vykonávanie kontrolných opatrení od hlavných telekomunikačných spoločností. Regulačné orgány ako FCC podporujú zvýšenú transparentnosť politických kampaní ohľadom používania AI v médiách reklamách, ale rozpory v rámci regulačných agentúr poukazujú na zložitosť riadenia v tejto oblasti.
V závere, rozšírenie technológie klonovania hlasu umelou inteligenciou prináša pre spoločnosť príležitosti aj riziká. Keď zainteresované strany prechádzajú meniacim sa prostredím syntetickej hlasovej technológie, je nevyhnutné zohľadniť etické hodnotenia, regulačné medzery a potenciálne zneužitie, aby sa zabezpečilo, že technológia klonovania hlasu umelou inteligenciou slúži verejnému záujmu.
Pre viac informácií o technológii klonovania hlasu umelou inteligenciou navštívte Wired alebo The Verge.