Ein AI-startup ved namn ElevenLabs har teke nødvendige grep ved å forby ein bruker som laga ei deepfake-stemme av Joe Biden i eit forsøk på å forstyrre valget, ifølgje Bloomberg. Deepfaken, som etterlikna presidenten, vart brukt i ein robocall som oppfordra veljarar i New Hampshire til å ikkje delta i primærvalget i delstaten. I starten var det uklart korleis teknologien etterlikna Bidens stemme, men eit sikkerheitsselskap ved namn Pindrop gjennomførte ein grundig analyse og klarte å identifisere at ElevenLabs sine verktøy vart nytta.
I staden for å bruke direkte sitat frå den opphavlege artikkelen, kan det forklarast at Pindrop fjerna bakgrunnsstøy og forsterka lyden i robocallen før dei samanlikna det med prøver frå fleire ulike stemmesynteseteknologiar knytt til deepfakes. CEO i Pindrop, Vijay Balasubramaniyan, uttalte at analysen stadfesta bruket av ElevenLabs sine verktøy med ein sikkerheit som oversteig 99 prosent. Bloomberg la til at selskapet no etterforskar saka etter å ha blitt gjort oppmerksam på funna til Pindrop, og dei har allereie identifisert og suspendert brukarkontoen som er ansvarleg.
Hendinga med den deepfaka Biden-robocallen understrekar den potensielle påverknaden til teknologiar som kan etterlikne ei persons stemme og utseende, særleg når det gjeld manipulering av stemmer under det komande presidentvalet i USA. Kathleen Carley, professor ved Carnegie Mellon University, uttrykte si bekymring angåande dette til The Hill, og sa at det er ei indikasjon på kva vi kan forvente dei komande månadane med tanke på veljarundertrykking og angrep på valmedarbeidarar.
Interessant nok tok det berre nokre få dagar etter at ElevenLabs lanserte betaversjonen av plattformen deira før folk utnytta teknologien til å lage lydklipp som etterliknar kjendisar som seier tvilsomme ting. Medan startupen oppmodar til bruk av teknologien deira for kunstnarisk og politisk tale som bidrar til offentleg debatt, advarer dei brukarar mot misbruk som bryt lova, slik som svindel, diskriminering eller hatspråk. Likevel understrekar denne hendinga behovet for at ElevenLabs implementerer fleire sikringstiltak for å hindre ondsinna aktørar frå å manipulere val over heile verda.
Ver merksam på at denne artikkelen kan innehalde tilknyttede lenker. Om du klikkar på ei slik lenke og gjer eit kjøp, kan vi tene ein provisjon.
OFT:
1. Kva er ElevenLabs?
ElevenLabs er ein AI-startup som har utvikla verktøy for stemmesynteseteknologi.
2. Kvifor forbydde ElevenLabs ein bruker?
ElevenLabs forbydde ein brukar som laga ein deepfake-stemme av Joe Biden i eit forsøk på å forstyrre valget.
3. Korleis vart den deepfaka av Joe Biden brukt?
Deepfaken vart brukt i ei robocall som oppfordra veljarar i New Hampshire til å ikkje delta i primærvalget i delstaten.
4. Korleis vart det avdekka at ElevenLabs sine verktøy vart brukt?
Eit sikkerheitsselskap ved namn Pindrop gjennomførte ein grundig analyse og stadfesta bruket av ElevenLabs sine verktøy med ein sikkerheit på over 99 prosent.
5. Kva er bekymringa knytt til deepfake-teknologi og val?
Hendinga med den deepfaka Biden-robocallen understrekar den potensielle påverknaden av teknologiar som kan etterlikne ei persons stemme og utseende for veljarundertrykking og angrep på valmedarbeidarar.
6. Kor raskt utnytta folk ElevenLabs sin teknologi etter lanseringa?
Det tok berre nokre få dagar etter at betaversjonen av ElevenLabs sin plattform vart lansert før folk utnytta teknologien til å lage lydklipp som etterliknar kjendisar som seier tvilsomme ting.
7. Kva slags bruk oppmodar ElevenLabs til for si teknologi?
ElevenLabs oppmodar til bruk av teknologien deira for kunstnarisk og politisk tale som bidrar til offentleg debatt.
8. Kva slags bruk advarer ElevenLabs mot?
ElevenLabs advarer brukarar mot misbruk som bryt lova, slik som svindel, diskriminering eller hatspråk.
Definisjonar:
– Deepfake: Bruken av kunstig intelligens for å skape eller manipulere lyd, video eller anna media på ein måte som villar eller bedrar sjåaren eller lyttaren til å tru at den forfalska innhaldet er ekte.
– Robocall: Eit automatisk telefonanrop som leverer ei føreinnspelt melding til eit stort antal menneske.
Foreslåtte relaterte lenker:
– ElevenLabs si nettside
– Pindrops si nettside
– Carnegie Mellon University
The source of the article is from the blog be3.sk