Stratup v oblasti umělé inteligence s názvem ElevenLabs přijal nezbytná opatření a zakázal uživateli vytvoření hlasového deepfake Joea Bidena s cílem narušit volby, jak informuje Bloomberg. Deepfake, který napodoboval prezidenta, byl použit ve volání robokolektem, které vyzývalo voliče v New Hampshire, aby se neúčastnili primárek ve státě. Přestože nebylo zpočátku jasné, jak technologie imitovala Bidenův hlas, bezpečnostní společnost jménem Pindrop provedla důkladnou analýzu a úspěšně identifikovala, že nástroje ElevenLabs byly využity.
Namísto přímých citací z původního článku lze vysvětlit, že Pindrop odstranil zvuky z pozadí a zlepšil zvuk robokolekta před porovnáním s vzorky ze mnoha hlasových syntéz spojených s deepfake. CEO Pindropu, Vijay Balasubramaniyan, uvedl, že analýza potvrdila použití nástrojů ElevenLabs s jistotou přesahující 99 procent. Bloomberg dodal, že společnost v současné době prověřuje tuto záležitost poté, co se dozvěděla o výsledcích Pindropu, a již identifikovala a pozastavila odpovědný účet.
Incident s deepfake robokolem Joea Bidena zdůrazňuje potenciální dopad technologií schopných imitovat hlas a vzhled osoby, zejména co se týče manipulace s hlasy během nadcházejících prezidentských voleb v USA. Kathleen Carley, profesorka na Carnegie Mellon University, vyjádřila své obavy ohledně této záležitosti pro The Hill, když uvedla, že to slouží jako indikátor toho, co je třeba očekávat v příštích měsících v souvislosti s potlačováním hlasů voličů a útoky na pracovníky voleb.
Zajímavé je, že pouhé několik dní po uvedení beta verze platformy ElevenLabs lidé zneužili technologii k vytváření zvukových záznamů, které napodobují osobnosti, když říkají pochybné věci. Zatímco startup podporuje používání své technologie pro umělecký a politický projev přispívající k veřejnému diskurzu, varuje uživatele před zneužitím, které porušuje zákon, jako je podvod, diskriminace nebo nenávistná řeč. Nicméně tento incident poukazuje na potřebu, aby ElevenLabs zavedl další ochranná opatření, která by zabránila zlým činitelům v manipulaci s volbami po celém světě.
Upozorňujeme, že tento článek může obsahovat odkazy na partnery. Pokud na takový odkaz kliknete a provedete nákup, můžeme získat provizi.
Často kladené otázky:
1. Co je ElevenLabs?
ElevenLabs je startup zaměřený na umělou inteligenci, který vyvinul nástroje pro technologii hlasové syntézy.
2. Proč ElevenLabs zakázal uživatele?
ElevenLabs zakázal uživatele, který vytvořil deepfake Joea Bidena s cílem narušit volby.
3. Jak byl deepfake Joea Bidena využit?
Deepfake byl použit ve volání robokolektem, které vyzývalo voliče v New Hampshire, aby se neúčastnili primárek ve státě.
4. Jak bylo zjištěno, že byly použity nástroje ElevenLabs?
Bezpečnostní společnost Pindrop provedla důkladnou analýzu a potvrdila použití nástrojů ElevenLabs s jistotou přesahující 99 procent.
5. Jaké jsou obavy ohledně deepfake technologie a voleb?
Incident s deepfake robokolem Joea Bidena poukazuje na potenciální dopad technologií schopných napodobit hlas a vzhled osoby na potlačování hlasů voličů a útoky na pracovníky voleb.
6. Jak rychle lidé zneužili technologii ElevenLabs po jejím uvedení?
Pouhé několik dní po uvedení beta verze platformy ElevenLabs lidé zneužili technologii k vytváření zvukových záznamů, které napodobují osobnosti, když říkají pochybné věci.
7. K jakém typu použití povzbuzuje ElevenLabs svou technologii?
ElevenLabs povzbuzuje použití své technologie pro umělecký a politický projev přispívající k veřejnému diskurzu.
8. K jakému typu použití varuje ElevenLabs?
ElevenLabs varuje uživatele před zneužitím, které porušuje zákon, jako je podvod, diskriminace nebo nenávistná řeč.
Definice:
– Deepfake: Použití umělé inteligence k vytvoření nebo manipulaci s audio, video nebo jinými médii takovým způsobem, který klame nebo zavádí diváka nebo posluchače do víry, že falšovaný obsah je pravý.
– Robokolekt: Automatizované telefonické volání, které doručuje předem nahranou zprávu velkému počtu lidí.
Navrhované související odkazy:
– Webové stránky ElevenLabs
– Webové stránky Pindrop
– Carnegie Mellon University
The source of the article is from the blog portaldoriograndense.com