AI-startup nimeltä ElevenLabs on ryhtynyt tarvittaviin toimenpiteisiin estääkseen käyttäjää luomasta deepfake-versiota Joe Bidenin äänestä vaalien häiritsemiseksi, kertoo Bloomberg. Deepfake-versio, jossa matkittiin presidentin ääntä, käytettiin robopuhelussa, jossa kehotettiin New Hampshiressa asuvia äänestäjiä olemaan osallistumatta osavaltionsa esivaaleihin. Aluksi ei ollut selvää, miten teknologia matki Bidenin ääntä, mutta turvallisuusyritys nimeltään Pindrop suoritti perusteellisen analyysin ja tunnisti onnistuneesti, että ElevenLabsin työkaluja oli käytetty.
Sen sijaan että käytettäisiin suoria lainauksia alkuperäisestä artikkelista, voidaan selittää, että Pindrop poisti taustamelun ja paransi robopuhelun ääntä ennen sen vertaamista näytteisiin useista ääntä syntetisoivista teknologioista, jotka liittyivät deepfakeihin. Pindropin toimitusjohtaja Vijay Balasubramaniyan totesi, että analyysi vahvisti ElevenLabsin työkalujen käytön yli 99 prosentin varmuudella. Bloomberg lisäsi, että yritys tutkii tällä hetkellä asiaa, saatuaan tietää Pindropin havainnoista, mutta se on jo tunnistanut ja keskeyttänyt vastuullisen tilin.
Deepfake-versiota Bidenin robopuhelusta koskeva tapahtuma korostaa teknologioiden potentiaalista vaikutusta henkilön äänen ja ulkonäön jäljittelyyn, erityisesti äänestysten manipuloinnin osalta tulevissa Yhdysvaltain presidentinvaaleissa. Kathleen Carley, professori Carnegie Mellon -yliopistosta, ilmaisi huolensa tästä asiasta The Hill -lehdelle ja totesi, että se on merkki siitä, mitä voidaan odottaa seuraavien kuukausien aikana äänestäjien tukahduttamisen ja vaalitoimitsijoiden hyökkäysten osalta.
Mielenkiintoista on, että vain muutamassa päivässä ElevenLabsin julkaiseman betaversion jälkeen ihmiset hyödynsivät teknologiaa luomalla äänileikkeitä, jotka matkivat julkkisten sanovan kyseenalaisia asioita. Vaikka startup kannustaa teknologiansa käyttöä taiteellisessa ja poliittisessa puheessa, joka edistää julkista keskustelua, se varoittaa käyttäjiä osallistumasta väärinkäytöksiin, jotka rikkovat lakia, kuten petosta, syrjintää tai vihapuhetta. Tämä tapahtuma kuitenkin korostaa ElevenLabsin tarvetta toteuttaa lisäsuojaustoimia estääkseen pahantahtoisia tekijöitä manipuloimasta vaaleja maailmanlaajuisesti.
Huomaa, että tässä artikkelissa saattaa olla affiliate-linkkejä. Jos napsautat tällaista linkkiä ja teet ostoksen, voimme saada komission.
UKK:
1. Mikä on ElevenLabs?
ElevenLabs on tekoälyyn erikoistunut startup-yritys, joka on kehittänyt ääntä syntetisoivia työkaluja.
2. Miksi ElevenLabs esti käyttäjän?
ElevenLabs esti käyttäjän, joka loi deepfake-version Joe Bidenista pyrkiäkseen häiritsemään vaaleja.
3. Kuinka Joe Bidenin deepfakea käytettiin?
Deepfakea käytettiin robopuhelussa, jossa kehotettiin New Hampshiressa asuvia äänestäjiä olemaan osallistumatta osavaltionsa esivaaleihin.
4. Kuinka todettiin, että ElevenLabsin työkaluja käytettiin?
Turvallisuusyritys nimeltä Pindrop suoritti perusteellisen analyysin ja vahvisti, että ElevenLabsin työkaluja oli käytetty yli 99 prosentin varmuudella.
5. Mitä huolta herättää deepfake-teknologia ja vaalit?
Tapahtuma, joka liittyy deepfake-version Bidenin robopuheluun, korostaa teknologioiden potentiaalista vaikutusta äänestäjien tukahduttamiseen ja hyökkäyksiin vaalien toimitsijoita kohtaan.
6. Kuinka nopeasti ihmiset hyödynsivät ElevenLabsin teknologiaa sen julkaisun jälkeen?
Vain muutamassa päivässä ElevenLabsin betaversion julkaisemisen jälkeen ihmiset hyödynsivät teknologiaa luomalla äänileikkeitä, jotka matkivat julkkisten sanovan kyseenalaisia asioita.
7. Minkälaista käyttöä ElevenLabs kannustaa teknologialleen?
ElevenLabs kannustaa teknologiansa käyttöä taiteelliseen ja poliittiseen puheeseen, joka edistää julkista keskustelua.
8. Minkälaista käyttöä ElevenLabs varoittaa vastaan?
ElevenLabs varoittaa käyttäjiä osallistumasta väärinkäytöksiin, jotka rikkovat lakia, kuten petosta, syrjintää tai vihapuhetta.
Määritelmiä:
– Deepfake: Tekoälyn käyttö äänen, videon tai muiden medioiden luomiseen tai manipulointiin siten, että se harhauttaa katsojaa tai kuulijaa uskomaan väärennetyn sisällön olevan aitoa.
– Robopuhelu: Automaattinen puhelinsoitto, joka toimittaa valmiiksi tallennetun viestin suurelle määrälle ihmisiä.
Ehdotetut liittyvät linkit:
– ElevenLabsin verkkosivusto
– Pindropin verkkosivusto
– Carnegie Mellon -yliopisto
The source of the article is from the blog karacasanime.com.ve