AI startup s názvom ElevenLabs podnikol potrebné kroky a zakázal používateľovi vytvoriť deepfake Joea Bidena, informuje Bloomberg. Deepfake, ktorý napodobňoval prezidenta, sa použil vo voličskej výzve prostredníctvom robocallu, ktorý vyzýval voličov v New Hampshire, aby sa nezúčastňovali na primárkach štátu. Na začiatku nebolo jasné, ako sa technológia napodobnila Bidenov hlas, ale bezpečnostná spoločnosť s názvom Pindrop vykonala dôkladnú analýzu a úspešne identifikovala, že nástroje z ElevenLabs sa použili.
Namiesto priameho citovania z pôvodného článku sa dá vysvetliť, že Pindrop odstránil šum zo záznamu a zlepšil zvuk robocallu pred porovnaním s ukážkami z niekoľkých technológií na syntézu hlasu spojených s deepfake. CEO Pindropu, Vijay Balasubramaniyan, uviedol, že analýza potvrdila použitie nástrojov z ElevenLabs s istotou presahujúcou 99 percent. Bloomberg dodal, že spoločnosť momentálne vyšetruje túto záležitosť po tom, čo sa dozvedela o zistení Pindropu, a už identifikovala a pozastavila zodpovedný účet.
Incident s deepfake Bidenovým robocallom poukazuje na potenciálny vplyv technológií schopných imitovať hlas a vzhľad osoby, najmä pokiaľ ide o manipuláciu s voľbami počas nadchádzajúcich amerických prezidentských volieb. Kathleen Carley, profesorka na Carnegie Mellon University, vyjadrila svoje obavy v súvislosti s touto záležitosťou pre The Hill a uviedla, že to je ukážka toho, čo možno očakávať v nasledujúcich mesiacoch, pokiaľ ide o potlačovanie voličov a útoky na pracovníkov volieb.
Zaujímavé je, že len pár dní po spustení beta verzie svojej platformy sa ľudia rýchlo naučili využívať technológiu na vytváranie zvukových klipov, ktoré napodobňujú slávnych ľudí, ako keby hovorili pochybné veci. Zatiaľ čo startup podporuje použitie svojej technológie pre umelecké a politické prejavy, ktoré prispievajú do verejných diskusií, varuje používateľov pred zneužitím zámerov, ktoré porušujú zákon, ako je podvod, diskriminácia alebo nenávistná reč. Napriek tomu tento incident poukazuje na nutnosť, aby ElevenLabs implementoval dodaťelné opatrenia, ktoré by zabránili záškodníkom v manipulácii s voľbami po celom svete.
Venujte pozornosť, že tento článok môže obsahovať odkazy na partnerské stránky. Ak kliknete na takýto odkaz a uskutočníte nákup, môžeme získať províziu.
Časté otázky:
1. Čo je ElevenLabs?
ElevenLabs je startup v oblasti umelej inteligencie, ktorý vyvinul nástroje pre technológiu syntézy hlasu.
2. Prečo ElevenLabs zakázal používateľovi?
ElevenLabs zakázal používateľovi, ktorý vytvoril deepfake Joea Bidena v pokuse o narušenie volieb.
3. Akým spôsobom sa použil deepfake Joea Bidena?
Deepfake sa použil vo voličskej výzve robocallu, ktorá vyzývala voličov v New Hampshire, aby sa nezúčastňovali na primárkach štátu.
4. Ako sa potvrdilo použitie nástrojov z ElevenLabs?
Bezpečnostná spoločnosť s názvom Pindrop vykonala dôkladnú analýzu a potvrdila použitie nástrojov z ElevenLabs so stopercentnou istotou.
5. Aké sú obavy týkajúce sa deepfake technológie a volieb?
Incident s deepfake Bidenovým robocallom poukazuje na potenciálny vplyv technológií, ktoré dokážu napodobňovať hlas a vzhľad osoby, na potlačovanie voličov a útoky na pracovníkov volieb.
6. Ako rýchlo ľudia zneužili technológiu ElevenLabs po jej spustení?
Len pár dní po spustení beta verzie platformy ElevenLabs sa ľudia naučili rýchlo využívať technológiu na vytváranie zvukových klipov, ktoré napodobňujú slávnych ľudí, ako keby hovorili pochybné veci.
7. Aké použitie podporuje ElevenLabs pre svoju technológiu?
ElevenLabs podporuje využitie svojej technológie pre umelecké a politické prejavy, ktoré prispievajú do verejných diskusií.
8. Aké použitie varuje ElevenLabs?
ElevenLabs varuje používateľov pred zneužitím svojich nástrojov na účely, ktoré porušujú zákon, ako je podvod, diskriminácia alebo nenávistná reč.
Definície:
– Deepfake: Použitie umelej inteligencie na vytváranie alebo manipuláciu s audio, video alebo inými médiami takým spôsobom, ktorý klame alebo zavádza diváka alebo poslucháča a vedie ho k mylnému presvedčeniu, že falšovaný obsah je autentický.
– Robocall: Automatizovaný telefónny hovor, ktorý doručuje prednahratú správu veľkému množstvu ľudí.
Navrhované súvisiace odkazy:
– Webová stránka ElevenLabs
– Webová stránka Pindrop
– Carnegie Mellon University
The source of the article is from the blog reporterosdelsur.com.mx