Ein KI-Startup namens ElevenLabs hat die notwendigen Maßnahmen ergriffen, um einen Benutzer zu sperren, der einen Sprach-Deepfake von Joe Biden erstellt hat, um die Wahlen zu stören, wie von Bloomberg berichtet. Der Deepfake, der den Präsidenten imitierte, wurde in einem Robocall verwendet, der die Wähler in New Hampshire dazu aufforderte, nicht an ihrer Vorwahl im Bundesstaat teilzunehmen. Zunächst war unklar, wie die Technologie Bidens Stimme nachahmte, aber das Sicherheitsunternehmen Pindrop führte eine gründliche Analyse durch und identifizierte erfolgreich, dass ElevenLabs-Tools verwendet wurden.
Anstatt direkte Zitate aus dem Originalartikel zu verwenden, kann erklärt werden, dass Pindrop Hintergrundgeräusche entfernt und den Audio des Robocalls verbessert hat, bevor er mit Samples von zahlreichen Sprachsynthesetechnologien verglichen wurde, die mit Deepfakes in Verbindung gebracht werden. Der CEO von Pindrop, Vijay Balasubramaniyan, erklärte, dass die Analyse den Einsatz von ElevenLabs-Tools mit einer Sicherheit von über 99 Prozent bestätigte. Bloomberg fügte hinzu, dass das Unternehmen nach Kenntnisnahme der Ergebnisse von Pindrop derzeit die Angelegenheit untersucht, aber bereits den verantwortlichen Account identifiziert und suspendiert hat.
Der Vorfall mit dem deepgefakten Biden-Robocall verdeutlicht die potenzielle Auswirkung von Technologien, die in der Lage sind, die Stimme und das Aussehen einer Person zu imitieren, insbesondere im Hinblick auf die Manipulation von Stimmen bei der bevorstehenden US-Präsidentschaftswahl. Kathleen Carley, Professorin an der Carnegie Mellon University, äußerte gegenüber The Hill ihre Bedenken zu dieser Angelegenheit und erklärte, dass dies darauf hinweist, was in den kommenden Monaten in Bezug auf Wählerunterdrückung und Angriffe auf Wahlhelfer zu erwarten ist.
Interessanterweise dauerte es nur wenige Tage, nachdem ElevenLabs die Betaversion ihrer Plattform gestartet hatte, bis Menschen die Technologie ausnutzten, um Audio-Clips zu erstellen, in denen Prominente zweifelhafte Aussagen machen. Obwohl das Startup die Nutzung seiner Technologie für künstlerische und politische Reden unterstützt, die zu öffentlichen Debatten beitragen, warnt es die Benutzer davor, missbräuchliche Zwecke zu verfolgen, die gegen das Gesetz verstoßen, wie Betrug, Diskriminierung oder Hassrede. Dennoch verdeutlicht dieser Vorfall die Notwendigkeit für ElevenLabs, zusätzliche Sicherheitsmaßnahmen zu implementieren, um zu verhindern, dass bösartige Akteure Wahlen weltweit manipulieren können.
Bitte beachten Sie, dass dieser Artikel Affiliate-Links enthalten kann. Wenn Sie auf einen solchen Link klicken und einen Kauf tätigen, können wir eine Provision verdienen.
FAQ:
1. Was ist ElevenLabs?
ElevenLabs ist ein KI-Startup, das Tools für die Sprachsynthesetechnologie entwickelt hat.
2. Warum hat ElevenLabs einen Benutzer gesperrt?
ElevenLabs hat einen Benutzer gesperrt, der einen Sprach-Deepfake von Joe Biden erstellt hat, um die Wahlen zu stören.
3. Wie wurde der Deepfake von Joe Biden verwendet?
Der Deepfake wurde in einem Robocall verwendet, der die Wähler in New Hampshire dazu aufforderte, nicht an ihrer Vorwahl im Bundesstaat teilzunehmen.
4. Wie wurde festgestellt, dass die Tools von ElevenLabs verwendet wurden?
Das Sicherheitsunternehmen Pindrop führte eine gründliche Analyse durch und bestätigte den Einsatz von ElevenLabs-Tools mit einer Sicherheit von über 99 Prozent.
5. Was sind die Bedenken in Bezug auf Deepfake-Technologie und Wahlen?
Der Vorfall mit dem deepgefakten Biden-Robocall verdeutlicht die potenzielle Auswirkung von Technologien, die die Stimme und das Aussehen einer Person imitieren können, auf Wählerunterdrückung und Angriffe auf Wahlhelfer.
6. Wie schnell nutzten Menschen die Technologie von ElevenLabs nach dem Start aus?
Es dauerte nur wenige Tage, nachdem die Betaversion von ElevenLabs‘ Plattform gestartet wurde, bis Menschen die Technologie ausnutzten, um Audio-Clips zu erstellen, in denen Prominente zweifelhafte Aussagen machen.
7. Welche Arten der Nutzung unterstützt ElevenLabs für seine Technologie?
ElevenLabs unterstützt die Nutzung seiner Technologie für künstlerische und politische Reden, die zu öffentlichen Debatten beitragen.
8. Wovor warnt ElevenLabs?
ElevenLabs warnt Benutzer davor, missbräuchliche Zwecke zu verfolgen, die gegen das Gesetz verstoßen, wie Betrug, Diskriminierung oder Hassrede.
Definitionen:
– Deepfake: Die Verwendung künstlicher Intelligenz, um Audio, Video oder andere Medien zu erstellen oder zu manipulieren, sodass der Zuschauer oder Zuhörer fälschlicherweise glaubt, dass der gefälschte Inhalt echt ist.
– Robocall: Ein automatisierter Telefonanruf, der eine vorab aufgezeichnete Nachricht an eine große Anzahl von Personen übermittelt.
Vorgeschlagene verwandte Links:
– ElevenLabs-Website
– Pindrop-Website
– Carnegie Mellon University
The source of the article is from the blog lokale-komercyjne.pl