Un startup AI numit ElevenLabs a luat măsurile necesare în interzicerea unui utilizator care a creat un deepfake vocal cu Joe Biden în încercarea de a perturba alegerile, conform rapoartelor Bloomberg. Deepfake-ul, care imita președintele, a fost utilizat într-un apel automatizat care încuraja alegătorii din New Hampshire să nu participe la alegerile primare ale statului lor. Deși inițial nu era clar cum tehnologia imita vocea lui Biden, o companie de securitate numită Pindrop a realizat o analiză amănunțită și a identificat cu succes că instrumentele ElevenLabs au fost utilizate.
În loc să folosească citări directe din articolul original, se poate spune că Pindrop a eliminat zgomotele de fundal și a îmbunătățit sunetul apelului automatizat înainte de a-l compara cu mostre din numeroase tehnologii de sinteză vocală asociate cu deepfake-uri. CEO-ul Pindrop, Vijay Balasubramaniyan, a declarat că analiza a confirmat utilizarea instrumentelor ElevenLabs cu o certitudine de peste 99%. Bloomberg a adăugat că, în timp ce compania investighează în prezent problema după ce a fost informată despre concluziile Pindrop, aceasta a identificat și a suspendat deja contul responsabil.
Incidentul cu deepfake-ul lui Biden subliniază impactul potențial al tehnologiilor capabile să imite vocea și aparența unei persoane, în special în ceea ce privește manipularea voturilor în timpul viitoarelor alegeri prezidențiale din SUA. Kathleen Carley, profesor la Universitatea Carnegie Mellon, și-a exprimat îngrijorarea cu privire la acest aspect în fața The Hill, afirmând că acesta servește drept o indicație a ceea ce putem să ne așteptăm în lunile următoare în ceea ce privește suprimarea votului și atacurile asupra lucrătorilor electorali.
În mod interesant, au fost necesare doar câteva zile după lansarea versiunii beta a platformei ElevenLabs pentru ca oamenii să exploateze tehnologia pentru a crea clipuri audio care imită celebrități și le fac să spună lucruri discutabile. În timp ce startup-ul încurajează utilizarea tehnologiei sale pentru discursuri artistice și politice care contribuie la dezbaterile publice, avertizează utilizatorii să nu se angajeze în scopuri abuzive care încalcă legea, cum ar fi fraudarea, discriminarea sau discursul de ură. Cu toate acestea, acest incident subliniază necesitatea ca ElevenLabs să implementeze măsuri suplimentare pentru a preveni actorii rău intenționați să manipuleze alegerile la nivel mondial.
Vă rugăm să rețineți că acest articol poate conține link-uri de afiliere. Dacă faceți clic pe un astfel de link și efectuați o achiziție, putem câștiga o comision.
Întrebări frecvente:
1. Ce este ElevenLabs?
ElevenLabs este un startup AI care a dezvoltat instrumente pentru tehnologia de sinteză vocală.
2. De ce a interzis ElevenLabs un utilizator?
ElevenLabs a interzis un utilizator care a creat un deepfake vocal cu Joe Biden în încercarea de a perturba alegerile.
3. Cum a fost folosit deepfake-ul lui Joe Biden?
Deepfake-ul a fost utilizat într-un apel automatizat care încuraja alegătorii din New Hampshire să nu participe la alegerile primare ale statului lor.
4. Cum s-a determinat că au fost utilizate instrumentele ElevenLabs?
O companie de securitate numită Pindrop a realizat o analiză amănunțită și a confirmat utilizarea instrumentelor ElevenLabs cu o certitudine de peste 99%.
5. Care sunt preocupările referitoare la tehnologia deepfake și alegeri?
Incidentul cu deepfake-ul lui Biden subliniază impactul potențial al tehnologiilor capabile să imite vocea și aparența unei persoane asupra suprimării votului și atacurilor asupra lucrătorilor electorali.
6. Cât de repede au exploatat oamenii tehnologia ElevenLabs după lansarea acesteia?
Au fost necesare doar câteva zile după lansarea versiunii beta a platformei ElevenLabs pentru ca oamenii să exploateze tehnologia în crearea de clipuri audio care imită celebrități și le fac să spună lucruri discutabile.
7. Ce tipuri de utilizare încurajează ElevenLabs pentru tehnologia sa?
ElevenLabs încurajează utilizarea tehnologiei sale pentru discursuri artistice și politice care contribuie la dezbaterile publice.
8. De ce tipuri de utilizare avertizează ElevenLabs?
ElevenLabs avertizează utilizatorii să nu se angajeze în scopuri abuzive care încalcă legea, cum ar fi fraudarea, discriminarea sau discursul de ură.
Definiții:
– Deepfake: Utilizarea inteligenței artificiale pentru a crea sau manipula conținut audio, video sau alte media într-un mod care induce în eroare privitorul sau ascultătorul, făcându-l să creadă că conținutul falsificat este autentic.
– Apel automatizat: Un apel telefonic automatizat care livrează un mesaj preînregistrat unui număr mare de persoane.
Link-uri relevante sugerate:
– Site web ElevenLabs
– Site web Pindrop
– Universitatea Carnegie Mellon
The source of the article is from the blog meltyfan.es