Dirbtinio intelekto startuolis pavadinimu ElevenLabs ėmėsi būtinų veiksmų draudžiant vartotoją, kuris sukūrė J. Bideno balsą atkuriantį deepfake, siekdamas sutrikdyti rinkimus, kaip pranešė Bloomberg. Deepfake, kuris kopijavo prezidento balsą, buvo naudojamas automatiniam skambinimui, raginančiam Naujajame Hampšyre esančius balsuotojus nedalyvauti savo valstijos pirminėse išankstinėse rinkimuose. Pradžioje buvo neaišku, kaip ši technologija imituoja Bideno balsą, tačiau saugumo įmonė pavadinimu Pindrop atliko išsamią analizę ir sėkmingai nustatė, kad naudoti buvo ElevenLabs įrankiai.
Pindrop nebuvo naudojamas originalaus straipsnio citatams ir galima paaiškinti, kad jie pašalino foninius triukšmus ir pagerino automatinės skambinimo garso kokybę palyginus ją su įvairių giliosios imitacijos balsų sintezės technologijų pavyzdžiais. Pindrop generalinis direktorius Vijay Balasubramaniyan teigė, kad analizė patvirtino, jog buvo naudojami ElevenLabs įrankiai su daugiau kaip 99 proc. tikrumu. Bloomberg pridūrė, kad nors šiuo metu įmonė tyrimo rezultatų pagrindu tiria šią problemą, ji jau identifikavo ir laikinai įšaldė atsakingą paskyrą.
Giliąją J. Bideno deepfake irgi susijusią įvykį pabrėžiama, jog technologijos, gebančios imituoti žmogaus balsą ir išvaizdą, turi potencialią įtaką balsuotei manipuliacijai artėjančiuose JAV prezidento rinkimuose. Carnegie Mellon universiteto profesorė Kathleen Carley išreiškė savo susirūpinimą dėl šios problemos dienraščiui The Hill, teigdama, kad tai yra ženklas, ką galima tikėtis ateinančiais mėnesiais, kalbant apie balsuotojų slopinimą ir puolimus prieš rinkimų darbuotojus.
Įdomu tai, kad tik keletui dienų praėjus po ElevenLabs versijos beta versijos pasirodymo, žmonėms pavyko išnaudoti technologiją kurdami garso įrašus, kuriuose imituojami žinomi asmenys sako klausimus keliančius dalykus. Nors startuolis skatina taikyti savo technologiją meniniams ir politiniams kalboms, kurios prisideda prie viešųjų diskusijų, jis įspėja vartotojus atsargiai naudotis jais ir vengti piktnaudžiavimo, pažeidžiančio įstatymus, tokį kaip apgaulė, diskriminacija ar neapykanta. Nepaisant to, šis įvykis pabrėžia poreikį įdiegti ElevenLabs papildomus saugiklius, kad būtų apsisaugota nuo kenksmingų veikėjų manipuliuoti rinkimais visame pasaulyje.
Paminėtina, kad šis straipsnis gali būti susijęs su partneryste. Jei paspausite ant nuorodos ir įsigysite produktą, galime gauti komisinią.
DUK:
1. Kas yra ElevenLabs?
ElevenLabs yra dirbtinio intelekto startuolis, kuris sukūrė įrankius balsų sintezės technologijai.
2. Kodėl ElevenLabs uždraudė vartotoją?
ElevenLabs uždraudė vartotoją, kuris sukūrė J. Bideno balsą atkuriantį deepfake, siekdamas sutrikdyti rinkimus.
3. Kaip buvo naudojamas J. Bideno deepfake?
J. Bideno deepfake buvo naudojamas automatiniam skambinimui, raginančiam Naujajame Hampšyre esančius balsuotojus nedalyvauti pirminėse išankstinėse rinkimuose.
4. Kaip buvo nustatyta, kad buvo naudojami ElevenLabs įrankiai?
Saugumo įmonė pavadinimu Pindrop atliko išsamią analizę ir patvirtino, kad buvo naudojami ElevenLabs įrankiai su daugiau nei 99 proc. tikrumu.
5. Kokie yra susirūpinimai dėl deepfake technologijos ir rinkimų?
Įvykis su J. Bideno deepfake pabrėžia technologijų, gebančių imituoti žmogaus balsą ir išvaizdą, potencialią įtaką balsuoti slopinimui ir puolimams prieš rinkimų darbuotojus.
6. Kaip greitai žmonės išnaudojo ElevenLabs technologiją po jos pasirodymo?
Tik keletui dienų praėjus po ElevenLabs platformos beta versijos pasirodymo žmonėms pavyko išnaudoti technologiją kurdami garso įrašus, kuriuose imituojami žinomi asmenys sako klausimus keliančius dalykus.
7. Kokiems tikslams ElevenLabs skatina naudoti savo technologiją?
ElevenLabs skatina naudoti savo technologiją meniniams ir politiniams kalboms, kurios prisideda prie viešųjų diskusijų.
8. Kokiems tikslams ElevenLabs įspėja priešingai?
ElevenLabs įspėja vartotojus neįsitraukti į kenksmingus veiksmus, pažeidžiančius įstatymus, tokius kaip apgaulė, diskriminacija ar neapykanta.
Apibrėžimai:
– Deepfake: Dirbtinio intelekto naudojimas norint sukurti ar manipuliuoti garso, vaizdo ar kitais medijos elementais būdu, kuris klaidina ar apgaudinėja žiūrovą ar klausytoją, įkuriant klaidinantį turinį ir pateikiant jį kaip tikrąjį.
– Automatinis skambinimas: Automatinis telefoninis skambutis, kuris pristato iš anksto įrašytą žinutę dideliam žmonių skaičiui.
Siūlomi susiję nuorodų šaltiniai:
– ElevenLabs svetainė
– Pindrop svetainė
– Carnegie Mellon universitetas
The source of the article is from the blog reporterosdelsur.com.mx