AI startup pod nazivom ElevenLabs poduzeo je potrebne mjere i zabranio korisnika koji je stvorio glasovni deepfake Joea Bidena u pokušaju ometanja izbora, kako izvještava Bloomberg. Deepfake, koji je imitirao predsjednika, korišten je u robocallu koji je pozivao birače u New Hampshireu da ne sudjeluju u primarnim izborima svog države. Iako nije bilo jasno kako je tehnologija imitirala Bidenaov glas, sigurnosna tvrtka pod nazivom Pindrop provela je temeljitu analizu i uspješno identificirala da su korišteni alati ElevenLabs-a.
Umjesto korištenja izravnih citata iz izvornog članka, može se objasniti da je Pindrop uklonio pozadinsku buku i poboljšao zvuk robocalla prije nego ga je usporedio s uzorcima mnogih tehnologija sinteze glasa povezanih s deepfakeima. Vijay Balasubramaniyan, izvršni direktor Pindrop-a, izjavio je da je analiza potvrdila korištenje alata ElevenLabs s sigurnošću većom od 99 posto. Bloomberg je dodao da tvrtka trenutno istražuje ovaj problem nakon što je upoznata s pronalascima Pindrop-a i već je identificirala i suspendirala odgovoran korisnički račun.
Incident koji uključuje deepfake Bidenovog robocalla naglašava potencijalni utjecaj tehnologija sposobnih za imitiranje glasa i izgleda osobe, posebno u pogledu manipulacije glasova tijekom predstojećih predsjedničkih izbora u Sjedinjenim Američkim Državama. Kathleen Carley, profesorica na Sveučilištu Carnegie Mellon, izrazila je svoju zabrinutost u vezi s tim pitanjem za The Hill, ističući da to služi kao upozorenje na ono što treba očekivati u idućim mjesecima u smislu gušenja glasa birača i napada na radnike izbornih procesa.
Zanimljivo je da je samo nekoliko dana nakon što je ElevenLabs lansirao beta verziju svoje platforme, ljudi su iskoristili tehnologiju kako bi stvorili audio snimke koji imitiraju slavne osobe kako izgovaraju upitne stvari. Iako startup potiče upotrebu svoje tehnologije u umjetničke i političke svrhe koje doprinose javnoj raspravi, upozorava korisnike da se suzdrže od zloupotrebe tehnologije u svrhu kršenja zakona, kao što su prijevara, diskriminacija ili govor mržnje. Ipak, ovaj incident ističe potrebu da ElevenLabs implementira dodatne sigurnosne mjere kako bi spriječio zlonamjerne aktere da manipuliraju izborima diljem svijeta.
Napomena: Ovaj članak može sadržavati partnerske veze. Ako kliknete na takvu vezu i obavite kupnju, možemo zaraditi proviziju.
ČPP:
1. Što je ElevenLabs?
ElevenLabs je AI startup koji je razvio alate za tehnologiju sinteze glasa.
2. Zašto je ElevenLabs zabranio korisnika?
ElevenLabs je zabranio korisnika koji je stvorio glasovni deepfake Joea Bidena u pokušaju ometanja izbora.
3. Kako je deepfake Joea Bidena korišten?
Deepfake je korišten u robocallu koji je pozivao birače u New Hampshireu da ne sudjeluju u primarnim izborima svog države.
4. Kako je utvrđeno da su korišteni alati ElevenLabs-a?
Sigurnosna tvrtka Pindrop provela je temeljitu analizu i potvrdila korištenje alata ElevenLabs-a s sigurnošću većom od 99 posto.
5. Koje su zabrinutosti u vezi s deepfake tehnologijom i izborima?
Incident koji uključuje deepfake Bidenovog robocalla ističe potencijalni utjecaj tehnologija sposobnih za imitiranje glasa i izgleda osobe na gušenje glasa birača i napade na radnike izbornih procesa.
6. Koliko je brzo ljudi iskoristili tehnologiju ElevenLabs-a nakon njegovog lansiranja?
Samo nekoliko dana nakon lansiranja beta verzije platforme ElevenLabs, ljudi su iskoristili tehnologiju kako bi stvorili audio snimke koji imitiraju slavne osobe kako izgovaraju upitne stvari.
7. Koje vrste korištenja potiče ElevenLabs za svoju tehnologiju?
ElevenLabs potiče upotrebu svoje tehnologije u umjetničke i političke svrhe koje doprinose javnoj raspravi.
8. Koje vrste korištenja ElevenLabs upozorava?
ElevenLabs upozorava korisnike da se suzdrže od zloupotrebe tehnologije u svrhu kršenja zakona, kao što su prijevara, diskriminacija ili govor mržnje.
Definicije:
– Deepfake: Upotreba umjetne inteligencije za stvaranje ili manipulaciju audio, video ili druge medijske datoteke na način koji zavodi gledatelja ili slušatelja da vjeruje da je lažni sadržaj stvaran.
– Robocall: Automatizirani telefonski poziv koji dostavlja predprijavljen poruku velikom broju ljudi.
Prijedlozi za povezane linkove:
– ElevenLabs web stranica
– Pindrop web stranica
– Sveučilište Carnegie Mellon
The source of the article is from the blog regiozottegem.be