AIA idufirma nimega ElevenLabs on võtnud vajalikud meetmed, et keelata kasutaja, kes lõi Joe Bideni hääle deepfake’i, püüdes segada valimisi, teatab Bloomberg. Deepfake, mis jäljendas presidendi häält, kasutati robokõnes, mis kutsus New Hampshire’i valijaid üles mitte osalema oma osariigi esmases valimises. Kuigi alguses ei olnud selge, kuidas tehnoloogia jäljendas Bideni häält, viis turvafirma nimega Pindrop läbi põhjaliku analüüsi ja tuvastas edukalt, et ElevenLabs’i tööriistu kasutati.
Selle asemel, et kasutada otse tsitaate algsest artiklist, võib selgitada, et Pindrop eemaldas taustamüra ja parandas robokõne heli enne selle võrdlemist erinevate deepfake’idega seotud häänsünteesitehnoloogiate proovidega. Pindrop’i tegevjuht Vijay Balasubramaniyan väitis, et analüüs kinnitas ElevenLabs’i tööriistade kasutamist kindlusega üle 99 protsendi. Bloomberg lisas, et kuigi ettevõte uurib praegu juhtumit pärast Pindropi järelduste teada saamist, on see juba tuvastanud ja peatanud vastutava konto.
Juhtum, millesse oli kaasatud deepfake’i Bideni robokõne, rõhutab võimalikku mõju tehnoloogiatele, mis suudavad jäljendada inimese häält ja välimust, eriti seoses häälte manipuleerimisega tulevastel Ameerika Ühendriikide presidendivalimistel. Carnegie Melloni ülikooli professor Kathleen Carley väljendas oma muret selle küsimuse osas The Hill ajakirjale, öeldes, et see on märk sellest, mida oodata järgmise paari kuu jooksul seoses valijate mahasurumisega ja rünnakutega valimistöötajate vastu.
Huvitaval kombel kulus vaid mõni päev pärast ElevenLabs’i beetaversiooni platvormi käivitamist inimestel selle tehnoloogia ärakasutamiseks, luues kahtlaseid asju ütlevate kuulsuste kõnehelilindid. Kuigi idufirma julgustab oma tehnoloogia kasutamist kunstilises ja poliitilises kõnes, mis aitavad kaasa avalikele aruteludele, hoiatab ta kasutajaid kuritarvitavate eesmärkide eest, mis rikuvad seadust, nagu pettus, diskrimineerimine või vihakõne. Siiski rõhutab see juhtum ElevenLabs’i vajadust rakendada täiendavaid kaitsemeetmeid, et takistada pahatahtlike tegelaste valimiste manipuleerimist üle maailma.
Palun võtke teadmiseks, et see artikkel võib sisaldada partnerlingeid. Kui klõpsate sellisel lingil ja teete ostu, võime saada komisjonitasu.
KKK:
1. Mis on ElevenLabs?
ElevenLabs on AIA idufirma, mis on välja töötanud tööriistad häältesünteesitehnoloogia jaoks.
2. Miks elevenLabs keelas kasutaja?
ElevenLabs keelas kasutaja, kes lõi Joe Bideni deepfake’i eesmärgiga segada valimisi.
3. Kuidas kasutati Joe Bideni deepfake’i?
Deepfake’i kasutati robokõnes, mis kutsus New Hampshire’i valijaid üles mitte osalema oma osariigi esmases valimises.
4. Kuidas tuvastati, et kasutati ElevenLabs’i tööriistu?
Turvafirma nimega Pindrop viis läbi põhjaliku analüüsi ja kinnitas ElevenLabs’i tööriistade kasutamist kindlusega üle 99 protsendi.
5. Millised on mured seoses deepfake’i tehnoloogia ja valimistega?
Juhtum, millesse oli kaasatud deepfake’i Bideni robokõne, rõhutab võimalikku mõju tehnoloogiatele, mis suudavad jäljendada inimese häält ja välimust, seoses valijate mahasurumise ja rünnakutega valimistöötajate vastu.
6. Kui kiiresti inimesed exploitisid ElevenLabs’i tehnoloogiat pärast selle käivitamist?
Pärast ElevenLabs’i platvormi beetaversiooni käivitamist kulus vaid mõni päev inimestel selle tehnoloogia ära kasutamiseks ning luua audiofragmente, kus kuulsused ütlevad kahtlaseid asju.
7. Millist tüüpi kasutust soovitab ElevenLabs oma tehnoloogiale?
ElevenLabs soovitab oma tehnoloogia kasutamist kunstilises ja poliitilises kõnes, mis aitavad kaasa avalikele aruteludele.
8. Millist tüüpi kasutust hoiatab ElevenLabs?
ElevenLabs hoiatab kasutajaid kuritarvitava eesmärgi eest, mis rikub seadust, nagu pettus, diskrimineerimine või vihakõne.
Mõisted:
– Deepfake: Tehisintellekti kasutamine audio, video või muu meedia loomiseks või manipuleerimiseks viisil, mis eksitab või petab vaatajaid või kuulajaid, sundides neid uskuma, et võltsitud sisu on ehtne.
– Robokõne: Automatiseeritud telefonikõne, mis edastab eelnevalt salvestatud sõnumi suurele hulgale inimestele.
Soovitatud seotud lingid:
– ElevenLabs’i veebisait
– Pindrop’i veebisait
– Carnegie Melloni ülikool
The source of the article is from the blog cheap-sound.com