En AI-startup ved navn ElevenLabs har truffet nødvendige foranstaltninger ved at udelukke en bruger, der skabte en stemme-dybfalskning af Joe Biden i et forsøg på at forstyrre valget, som rapporteret af Bloomberg. Dybfalskningen, der efterlignede præsidenten, blev brugt i en robocall, der opfordrede vælgere i New Hampshire til ikke at deltage i deres delstats primærvalg. Selvom det oprindeligt var uklart, hvordan teknologien efterlignede Bidens stemme, udførte et sikkerhedsfirma ved navn Pindrop en grundig analyse og identificerede med succes, at ElevenLabs’ værktøjer blev brugt.
I stedet for at bruge direkte citater fra den oprindelige artikel kan det forklares, at Pindrop fjernede baggrundsstøj og forbedrede lyden af robocallen, før den blev sammenlignet med prøver fra talrige stemmesynteseteknologier forbundet med dybfalskninger. Pindrops administrerende direktør, Vijay Balasubramaniyan, udtalte, at analysen bekræftede brugen af ElevenLabs’ værktøjer med en sikkerhed på over 99 procent. Bloomberg tilføjede, at virksomheden i øjeblikket undersøger sagen, efter at den er blevet gjort opmærksom på Pindrops resultater, men den har allerede identificeret og suspenderet den ansvarlige konto.
Hændelsen med den dybfalskede Biden-robocall understreger potentialet ved teknologier, der er i stand til at efterligne en persons stemme og udseende, især med hensyn til manipulation af stemmer under den kommende amerikanske præsidentvalg. Kathleen Carley, professor ved Carnegie Mellon University, udtrykte sin bekymring over dette emne til The Hill og sagde, at det er en indikation af, hvad der kan forventes i de kommende måneder med hensyn til undertrykkelse af vælgere og angreb på valgmedarbejdere.
Interessant nok tog det kun få dage, efter at ElevenLabs lancerede beta-versionen af deres platform, før folk udnyttede teknologien ved at skabe lydklip, der efterlignede berømtheder, der sagde tvivlsomme ting. Mens startuppen opfordrer til brugen af deres teknologi til kunstnerisk og politisk tale, der bidrager til offentlige debatter, advarer de brugere mod at bruge teknologien til ondsindede formål, der overtræder lovgivningen, såsom bedrageri, forskelsbehandling eller hadtale. Ikke desto mindre fremhæver denne hændelse behovet for, at ElevenLabs implementerer yderligere sikkerhedsforanstaltninger for at forhindre ondsindede aktører i at manipulere valg over hele verden.
Bemærk, at denne artikel kan indeholde affiliate-links. Hvis du klikker på et sådant link og foretager et køb, kan vi modtage en provision.
FAQ:
1. Hvad er ElevenLabs?
ElevenLabs er en AI-startup, der har udviklet værktøjer til stemmesynteseteknologi.
2. Hvorfor udelukkede ElevenLabs en bruger?
ElevenLabs udelukkede en bruger, der skabte en stemme-dybfalskning af Joe Biden i et forsøg på at forstyrre valget.
3. Hvordan blev dybfalskningen af Joe Biden brugt?
Dybfalskningen blev brugt i en robocall, der opfordrede vælgere i New Hampshire til ikke at deltage i deres delstats primærvalg.
4. Hvordan blev det afgjort, at ElevenLabs’ værktøjer blev brugt?
Et sikkerhedsfirma ved navn Pindrop udførte en grundig analyse og bekræftede brugen af ElevenLabs’ værktøjer med en sikkerhed på over 99 procent.
5. Hvad er bekymringerne vedrørende dybfalsknings-teknologi og valg?
Hændelsen med den dybfalskede Biden-robocall fremhæver potentialet ved teknologier, der er i stand til at efterligne en persons stemme og udseende, med hensyn til undertrykkelse af vælgere og angreb på valgmedarbejdere.
6. Hvor hurtigt udnyttede folk ElevenLabs’ teknologi efter lanceringen?
Det tog kun få dage, efter beta-versionen af ElevenLabs’ platform blev lanceret, før folk udnyttede teknologien ved at skabe lydklip, der efterlignede berømtheder, der sagde tvivlsomme ting.
7. Hvilke typer anvendelse opfordrer ElevenLabs til for deres teknologi?
ElevenLabs opfordrer til brugen af deres teknologi til kunstnerisk og politisk tale, der bidrager til offentlige debatter.
8. Hvilke typer anvendelse advarer ElevenLabs imod?
ElevenLabs advarer brugere mod at bruge teknologien til ondsindede formål, der overtræder lovgivningen, såsom bedrageri, forskelsbehandling eller hadtale.
Definitioner:
– Dybfalskning: Brugen af kunstig intelligens til at skabe eller manipulere lyd, video eller andet medie på en måde, der vildleder eller bedrager seeren eller lytteren til at tro, at det forfalskede indhold er ægte.
– Robocall: Et automatiseret telefonsamtale, der leverer en forudindspillet besked til et stort antal mennesker.
Foreslåede relaterede links:
– ElevenLabs’ hjemmeside
– Pindrops hjemmeside
– Carnegie Mellon University
The source of the article is from the blog lanoticiadigital.com.ar