AI sākumuzņēmums ElevenLabs ir veicis nepieciešamos pasākumus, lai aizliegtu lietotāju, kurš izveidoja deepfake ar Joe Bidenu, mēģinot traucēt vēlēšanām, paziņo Bloomberg. Deepfake, kas pārņēma prezidenta identitāti, tika izmantots robocall, kas mudināja Niuhamšīras vēlētājus nedomāt piedalīties savas pirmās izvēlēs. Sākotnēji nebija skaidrs, kā tehnoloģija kopēja Bidena balsi, taču drošības uzņēmums Pindrop veica pamatīgu analīzi un veiksmīgi atklāja, ka izmantoti ElevenLabs rīki.
Neizmantojot tiešos citātus no sākotnējā raksta, var izskaidrot, ka Pindrop noņēma fona troksni un uzlaboja robocall skaņu, pirms salīdzināja to ar paraugiem no vairāku balss sintēzes tehnoloģiju, kas saistītas ar deepfakes. Pindrop izpilddirektors Vičijs Balasubramaniyans apstiprināja, ka analīze apstiprināja ElevenLabs rīku izmantošanu, pārsniedzot 99 procentu noteiktību. Bloomberg piebilda, ka uzņēmums šobrīd izmeklē problēmu pēc Pindrop konstatējumu saņemšanas, bet jau ir identificējis un apturējis atbildīgo kontu.
Šī deepfaked Bidena robocall incidenta pamatā ir tehnoloģiju potenciālais ietekme, kas spēj imitēt personas balss un izskatu, it īpaši attiecībā uz balsu manipulāciju un uzbrukumiem vēlēšanu darbiniekiem gaidāmajā ASV prezidenta vēlēšanās. Kārnila Melnarnicas universitātes profesore Katrīna Karlija izteica savu bažas par šo jautājumu The Hill, norādot, ka tas kalpo par norādi, kas jāgaida nākamajos mēnešos saistībā ar vēlētāju apspiešanu un uzbrukumiem vēlēšanu darbiniekiem.
Interesanti, ka tikai dažas dienas pēc ElevenLabs ieviesa savas platformas beta versiju, cilvēki ātri izmantoja tehnoloģiju, lai izveidotu audio fragmentus, kas imitē slaveno personību, kas saka apšaubāmas lietas. Lai arī sākumuzņēmums veicina savas tehnoloģijas izmantošanu mākslinieciskai un politiskai runai, kas veicina sabiedrības debates, tas brīdina lietotājus, ka nevajadzētu nodarboties ar ļaunprātīgu mērķu sasniegšanu, kas pārkāpj likumu, piemēram, krāpšanās, diskrimināciju vai naida izplatīšanu. Tomēr šis incidents norāda uz ElevenLabs nepieciešamību ieviest papildu pasākumus, lai novērstu ļaunprātīgo dalībnieku manipulācijas ar vēlēšanām visā pasaulē.
Lūdzu ņemiet vērā, ka šis raksts var saturēt afilēto saiti. Ja noklikšķināt uz šādas saites un veicat pirkumu, mēs varam saņemt komisiju.
FAQ:
1. Kas ir ElevenLabs?
ElevenLabs ir AI sākumuzņēmums, kas ir izstrādājis rīkus balss sintēzes tehnoloģijām.
2. Kāpēc ElevenLabs aizliedza lietotāju?
ElevenLabs aizliedza lietotāju, kurš izveidoja deepfake ar Joe Bidenu, mēģinot traucēt vēlēšanām.
3. Kā tika izmantots deepfake ar Joe Bidenu?
Deepfake tika izmantots robocall, kas mudināja Niuhamšīras vēlētājus nedomāt piedalīties savas pirmās izvēlēs.
4. Kā tika noteikts, ka ElevenLabs rīki tika izmantoti?
Drošības uzņēmums Pindrop veica pamatīgu analīzi un apstiprināja ElevenLabs rīku izmantošanu, pārsniedzot 99 procentu noteiktību.
5. Kādas ir bažas par deepfake tehnoloģiju un vēlēšanām?
Deepfaked Bidena robocall incidenta pamatā ir tehnoloģiju potenciālais ietekme uz vēlētāju apspiešanu un uzbrukumiem vēlēšanu darbiniekiem.
6. Cik ātri cilvēki izmantoja ElevenLabs tehnoloģiju pēc tās ieviešanas?
Tikai dažās dienās pēc ElevenLabs platformas beta versijas ieviešanas cilvēki izmantoja tehnoloģiju, lai izveidotu audio fragmentus, kas imitē slaveno personību, kas saka apšaubāmas lietas.
7. Kādas ir ElevenLabs tehnoloģijas ieteicamās lietošanas iespējas?
ElevenLabs veicina savas tehnoloģijas izmantošanu mākslinieciskai un politiskai runai, kas veicina sabiedrības debates.
8. No kādām lietošanas iespējām ElevenLabs brīdina?
ElevenLabs brīdina lietotājus, ka nevajadzētu nodarboties ar ļaunprātīgu mērķu sasniegšanu, kas pārkāpj likumu, piemēram, krāpšanu, diskrimināciju vai naida izplatīšanu.
Definīcijas:
– Deepfake: Artificiālā intelekta izmantošana, lai radītu vai manipulētu audio, video vai citu medijus tādā veidā, kas maldina skatītāju vai klausītāju, likdams tam ticēt, ka viltotais saturs ir īstens.
– Robocall: Automatizēta telefona zvanu sistēma, kas piegādā iepriekš ierakstītu ziņojumu lielam cilvēku skaitam.
The source of the article is from the blog lokale-komercyjne.pl