AI startup imenovan ElevenLabs je sprejel potrebne ukrepe in izbrisal uporabnika, ki je ustvaril deepfake glasu Jozefa Bidna v poskusu motenja volitev, poroča Bloomberg. Deepfake, ki je posnemal predsednika, je bil uporabljen v avtomatskem klicu, ki je pozival volivce v New Hampshiru, naj se ne udeležijo glasovanja na svoji državni primarni volitvi. Sprva ni bilo jasno, kako tehnologija posnema Bidnov glas, toda varnostno podjetje Pindrop je izvedlo temeljito analizo in uspešno ugotovilo, da so bila uporabljena orodja ElevenLabs.
Namesto neposrednih citatov izvirnega članka, je razloženo, da je Pindrop odstranil šum iz ozadja in izboljšal avdio posnetek avtomatskega klica, preden ga je primerjal z vzorci številnih tehnologij za sintezo govora, povezanih z deepfakei. CEO podjetja Pindrop, Vijay Balasubramaniyan, je dejal, da je analiza potrdila uporabo orodij ElevenLabs z gotovostjo, ki presega 99 odstotkov. Bloomberg je dodal, da podjetje trenutno še preiskuje zadevo, potem ko so bili obveščeni o Pindropovih ugotovitvah, vendar pa so že identificirali in suspendirali odgovoren račun.
Incident, povezan z deepfakeom Bidnovega avtomatskega klica, poudarja potencialni vpliv tehnologij, ki so sposobne posnemati glas in videz osebe, zlasti v zvezi s manipulacijo glasov med prihajajočimi predsedniškimi volitvami v ZDA. Kathleen Carley, profesorica na Univerzi Carnegie Mellon, je izrazila svojo zaskrbljenost glede tega vprašanja za The Hill in izjavila, da to služi kot opozorilo na to, kaj pričakovati v naslednjih mesecih glede zatiranja volivcev in napadov na delavce v volilnem procesu.
Zanimivo je, da je trajalo samo nekaj dni po tem, ko je ElevenLabs izdal beta različico svoje platforme, da so ljudje izkoristili tehnologijo in ustvarili avdio posnetke, ki posnemajo, da slavne osebnosti izgovarjajo sporna sporočila. Čeprav startup spodbuja uporabo tehnologije za umetniško in politično izražanje, ki prispeva k javnim razpravam, uporabnike opozarja, naj se ne ukvarjajo z zlorabami, ki kršijo zakon, kot so prevara, diskriminacija ali sovražni govor. Vendar pa ta incident kaže na potrebo po dodatnih varovalnih ukrepih s strani ElevenLabs, da se prepreči manipulacija volitev s strani zlonamernih akterjev po vsem svetu.
Prosimo, upoštevajte, da ta članek lahko vsebuje povezave s partnerskimi podjetji. Če kliknete na takšno povezavo in opravite nakup, lahko zaslužimo provizijo.
Pogosta vprašanja:
1. Kaj je ElevenLabs?
ElevenLabs je AI startup, ki je razvil orodja za tehnologijo sinteze glasu.
2. Zakaj je ElevenLabs izbrisal uporabnika?
ElevenLabs je izbrisal uporabnika, ki je ustvaril deepfake glasu Jozefa Bidna v poskusu motenja volitev.
3. Kako je bil deepfake Jozefa Bidna uporabljen?
Deepfake je bil uporabljen v avtomatskem klicu, ki je pozival volivce v New Hampshiru, naj se ne udeležijo glasovanja na svoji državni primarni volitvi.
4. Kako je bilo ugotovljeno, da so bila uporabljena orodja ElevenLabs?
Varnostno podjetje Pindrop je izvedlo temeljito analizo in potrdilo uporabo orodij ElevenLabs z gotovostjo, ki presega 99 odstotkov.
5. Kaj so pomisleki glede tehnologije deepfake in volitev?
Incident z deepfakeom Bidnovega avtomatskega klica poudarja potencialni vpliv tehnologij, ki zmorejo posnemati glas in videz osebe, na zatiranje volivcev in napade na delavce v volilnem procesu.
6. Kako hitro so ljudje izkoriščali tehnologijo ElevenLabs po njenem izidu?
Samo nekaj dni po izidu beta različice platforme ElevenLabs so ljudje že izkoriščali tehnologijo in ustvarjali avdio posnetke, ki posnemajo, da slavne osebnosti izgovarjajo sporna sporočila.
7. Kaj vrste uporabe spodbuja ElevenLabs za svojo tehnologijo?
ElevenLabs spodbuja uporabo svoje tehnologije za umetniško in politično izražanje, ki prispeva k javnim razpravam.
8. Katerih vrst uporabe se ElevenLabs opozarja?
ElevenLabs opozarja uporabnike, naj se ne ukvarjajo z zlorabami, ki kršijo zakon, kot so prevara, diskriminacija ali sovražni govor.
Opredelitve:
– Deepfake: Uporaba umetne inteligence za ustvarjanje ali manipulacijo zvoka, videa ali drugega medijskega gradiva na način, ki zavaja gledalca ali poslušalca in jim da napačen vtis o pristnosti vsebine.
– Avtomatski klic: Samodejni telefonski klic, ki dostavlja predhodno posneto sporočilo večjemu številu ljudi.
Predlagane povezane povezave:
– Spletna stran ElevenLabs
– Spletna stran Pindrop
– Univerza Carnegie Mellon
The source of the article is from the blog xn--campiahoy-p6a.es