Una startup di intelligenza artificiale chiamata ElevenLabs ha preso la necessaria decisione di sospendere un utente che ha creato un deepfake vocale di Joe Biden nel tentativo di disturbare le elezioni, come riportato da Bloomberg. Il deepfake, che impersonava il presidente, è stato utilizzato in una chiamata robotica che invitava gli elettori nel New Hampshire a non partecipare alle primarie statali. Sebbene inizialmente non fosse chiaro come la tecnologia imitasse la voce di Biden, una società di sicurezza chiamata Pindrop ha condotto un’analisi approfondita e ha identificato con successo che erano state utilizzate le strumenti di ElevenLabs.
Invece di utilizzare citazioni dirette dall’articolo originale, si può spiegare che Pindrop ha rimosso il rumore di fondo e migliorato l’audio della chiamata robotica prima di confrontarlo con campioni di numerose tecnologie di sintesi vocale associate ai deepfake. Il CEO di Pindrop, Vijay Balasubramaniyan, ha dichiarato che l’analisi ha confermato l’utilizzo degli strumenti di ElevenLabs con una certezza superiore al 99 percento. Bloomberg ha aggiunto che, mentre l’azienda sta attualmente indagando sulla questione dopo essere stata informata delle scoperte di Pindrop, ha già identificato e sospeso l’account responsabile.
L’incidente riguardante la chiamata robotica deepfake di Biden sottolinea l’impatto potenziale delle tecnologie capaci di imitare la voce e l’aspetto di una persona, in particolare per quanto riguarda la manipolazione dei voti durante le imminenti elezioni presidenziali negli Stati Uniti. Kathleen Carley, professoressa presso la Carnegie Mellon University, ha espresso la sua preoccupazione su questa questione a The Hill, affermando che questo serve come indicazione di ciò che ci si può aspettare nei prossimi mesi in termini di soppressione degli elettori e attacchi ai lavoratori elettorali.
È interessante notare che sono bastati pochi giorni dopo il lancio della versione beta della piattaforma di ElevenLabs affinché le persone sfruttassero la tecnologia per creare clip audio che imitano celebrità che dicono cose discutibili. Mentre la startup incoraggia l’uso della sua tecnologia per discorsi artistici e politici che contribuiscono ai dibattiti pubblici, avverte gli utenti di evitare scopi abusivi che violano la legge, come frodi, discriminazione o discorsi di odio. Tuttavia, questo incidente mette in evidenza la necessità per ElevenLabs di implementare ulteriori misure di sicurezza per evitare che attori malintenzionati manipolino le elezioni in tutto il mondo.
Si prega di notare che questo articolo potrebbe contenere link di affiliazione. Se si fa clic su un link del genere e si effettua un acquisto, potremmo guadagnare una commissione.
FAQ:
1. Cosa è ElevenLabs?
ElevenLabs è una startup di intelligenza artificiale che ha sviluppato strumenti per la tecnologia di sintesi vocale.
2. Perché ElevenLabs ha sospeso un utente?
ElevenLabs ha sospeso un utente che ha creato un deepfake vocale di Joe Biden nel tentativo di disturbare le elezioni.
3. Come è stato utilizzato il deepfake di Joe Biden?
Il deepfake è stato utilizzato in una chiamata robotica che invitava gli elettori nel New Hampshire a non partecipare alle primarie statali.
4. Come è stato determinato l’utilizzo degli strumenti di ElevenLabs?
Una società di sicurezza chiamata Pindrop ha condotto un’analisi approfondita e ha confermato l’utilizzo degli strumenti di ElevenLabs con una certezza superiore al 99 percento.
5. Quali sono le preoccupazioni riguardanti la tecnologia del deepfake e le elezioni?
L’incidente riguardante la chiamata robotica deepfake di Biden mette in evidenza l’impatto potenziale delle tecnologie capaci di imitare la voce e l’aspetto di una persona sulla soppressione degli elettori e gli attacchi ai lavoratori elettorali.
6. Quanto velocemente le persone hanno sfruttato la tecnologia di ElevenLabs dopo il suo lancio?
Sono bastati solo pochi giorni dopo il lancio della versione beta della piattaforma di ElevenLabs affinché le persone sfruttassero la tecnologia per creare clip audio che imitano celebrità che dicono cose discutibili.
7. Quali tipi di utilizzo incoraggia ElevenLabs per la sua tecnologia?
ElevenLabs incoraggia l’uso della sua tecnologia per discorsi artistici e politici che contribuiscono ai dibattiti pubblici.
8. Quali tipi di utilizzo sconsiglia ElevenLabs?
ElevenLabs avverte gli utenti di evitare scopi abusivi che violano la legge, come frodi, discriminazione o discorsi di odio.
Definizioni:
– Deepfake: L’uso dell’intelligenza artificiale per creare o manipolare audio, video o altri media in modo da indurre in errore il pubblico, facendo loro credere che il contenuto falsificato sia autentico.
– Chiamata robotica: Una chiamata telefonica automatizzata che trasmette un messaggio preregistrato a un gran numero di persone.
Link correlati suggeriti:
– Sito web di ElevenLabs
– Sito web di Pindrop
– Carnegie Mellon University
The source of the article is from the blog trebujena.net