Een AI-startup genaamd ElevenLabs heeft de noodzakelijke maatregelen genomen door een gebruiker te verbannen die een stem-deepfake van Joe Biden heeft gemaakt in een poging de verkiezingen te verstoren, zoals gemeld door Bloomberg. De deepfake, die de president imiteerde, werd gebruikt in een robocall die kiezers in New Hampshire opriep om niet deel te nemen aan de voorverkiezingen van hun staat. Hoewel aanvankelijk onduidelijk was hoe de technologie Biden’s stem nabootste, heeft een beveiligingsbedrijf genaamd Pindrop een grondige analyse uitgevoerd en succesvol geïdentificeerd dat ElevenLabs’ tools werden gebruikt.
In plaats van directe citaten uit het oorspronkelijke artikel te gebruiken, kan worden uitgelegd dat Pindrop achtergrondgeluid heeft verwijderd en het geluid van de robocall heeft verbeterd voordat het werd vergeleken met monsters van talloze stemsynthesetechnologieën die geassocieerd worden met deepfakes. De CEO van Pindrop, Vijay Balasubramaniyan, verklaarde dat de analyse bevestigde dat ElevenLabs’ tools met een zekerheid van meer dan 99 procent werden gebruikt. Bloomberg voegde eraan toe dat het bedrijf momenteel het probleem onderzoekt nadat het op de hoogte was gebracht van de bevindingen van Pindrop, en dat het de verantwoordelijke account al heeft geïdentificeerd en geschorst.
Het incident met de deepfake van Biden in de robocall benadrukt het potentiële effect van technologieën die in staat zijn om iemands stem en uiterlijk na te bootsen, vooral met betrekking tot de manipulatie van stemmen tijdens de komende Amerikaanse presidentsverkiezingen. Kathleen Carley, professor aan de Carnegie Mellon University, uitte haar zorg hierover aan The Hill en verklaarde dat dit een indicatie is van wat we de komende maanden kunnen verwachten op het gebied van het onderdrukken van kiezers en aanvallen op verkiezingsmedewerkers.
Interessant genoeg duurde het slechts enkele dagen nadat ElevenLabs de bètaversie van haar platform lanceerde voordat mensen de technologie misbruikten door audioclips te creëren waarin beroemdheden twijfelachtige uitspraken doen. Hoewel de startup het gebruik van haar technologie aanmoedigt voor artistieke en politieke uitingen die bijdragen aan publieke discussies, waarschuwt ze gebruikers om zich niet bezig te houden met misbruik dat in strijd is met de wet, zoals fraude, discriminatie of haatzaaiende taal. Desalniettemin benadrukt dit incident de noodzaak voor ElevenLabs om extra beveiligingsmaatregelen te implementeren om te voorkomen dat kwaadwillende actoren verkiezingen wereldwijd kunnen manipuleren.
Let op: dit artikel kan affiliate links bevatten. Als u op een dergelijke link klikt en een aankoop doet, kunnen we een commissie verdienen.
Veelgestelde vragen:
1. Wat is ElevenLabs?
ElevenLabs is een AI-startup die tools heeft ontwikkeld voor stemsynthesetechnologie.
2. Waarom heeft ElevenLabs een gebruiker verbannen?
ElevenLabs heeft een gebruiker verbannen die een stem-deepfake van Joe Biden heeft gemaakt in een poging de verkiezingen te verstoren.
3. Hoe werd de deepfake van Joe Biden gebruikt?
De deepfake werd gebruikt in een robocall die kiezers in New Hampshire opriep om niet deel te nemen aan de voorverkiezingen van hun staat.
4. Hoe is vastgesteld dat de tools van ElevenLabs werden gebruikt?
Een beveiligingsbedrijf genaamd Pindrop heeft een grondige analyse uitgevoerd en bevestigde het gebruik van de tools van ElevenLabs met een zekerheid van meer dan 99 procent.
5. Wat zijn de zorgen met betrekking tot deepfake-technologie en verkiezingen?
Het incident met de deepfake van Biden benadrukt het potentiële effect van technologieën die iemands stem en uiterlijk kunnen imiteren op het onderdrukken van kiezers en aanvallen op verkiezingsmedewerkers.
6. Hoe snel misbruikten mensen de technologie van ElevenLabs na de lancering ervan?
Het duurde slechts enkele dagen nadat de bètaversie van ElevenLabs’ platform was gelanceerd voordat mensen de technologie misbruikten door audioclips te maken waarin beroemdheden twijfelachtige uitspraken deden.
7. Welke soorten gebruik moedigt ElevenLabs aan voor haar technologie?
ElevenLabs moedigt het gebruik van haar technologie aan voor artistieke en politieke uitingen die bijdragen aan publieke discussies.
8. Waarvoor waarschuwt ElevenLabs?
ElevenLabs waarschuwt gebruikers om zich niet bezig te houden met misbruik dat in strijd is met de wet, zoals fraude, discriminatie of haatzaaiende taal.
Definities:
– Deepfake: Het gebruik van kunstmatige intelligentie om audio, video of andere media te creëren of manipuleren op een manier die de kijker of luisteraar misleidt en doet geloven dat de vervalste inhoud echt is.
– Robocall: Een geautomatiseerd telefoongesprek dat een vooraf opgenomen bericht aflevert aan een groot aantal mensen.
Suggerenede gerelateerde links:
– ElevenLabs Website
– Pindrop Website
– Carnegie Mellon University
The source of the article is from the blog combopop.com.br