Az ElevenLabs nevű AI kezdővállalkozás a Bloomberg jelentése szerint elmozdulást tett annak érdekében, hogy kitiltsa azt a felhasználót, aki Joe Biden hangját használva deepfake-t készített, választási zavarokat okozva. A deepfake, amely elmozdította az elnököt, egy robocallban került felhasználásra, amely felhívta New Hampshire választóit, hogy ne vegyenek részt államuk előválasztásán. Bár eleinte nem volt világos, hogyan tudta a technológia utánozni Biden hangját, egy biztonsági cég, a Pindrop alapos elemzést végzett és sikeresen azonosította, hogy az ElevenLabs eszközeit használták.
Az eredeti cikkből közvetlen idézetek helyett elmondható, hogy a Pindrop eltávolította a háttérzajt és javította a robocall audióját, mielőtt összehasonlította volna azokkal a mintákkal, amelyek deepfake-kel kapcsolatos hangszintézis technológiákkal vannak összefüggésben. A Pindrop ügyvezető igazgatója, Vijay Balasubramaniyan, kijelentette, hogy az elemzés megerősítette az ElevenLabs-eszközök használatát és a bizonyosságot meghaladja a 99 százalékot. A Bloomberg hozzátette, hogy míg a cég jelenleg vizsgálja az ügyet, miután tudomást szerzett a Pindrop találatokról, már azonosította és felfüggesztette a felelős fiókot.
Az eset, amely a Biden deepfake robocalljáról szólt, rámutat azon technológiák potenciális hatására, amelyek képesek egy személy hangját és megjelenését utánozni, különösen amiatt, hogy manipulálják a szavazatokat a közelgő amerikai elnökválasztás során. Kathleen Carley, a Carnegie Mellon Egyetem professzora, aggodalmát fejezte ki az ügyben a The Hillnek, és kijelentette, hogy ez jelzi, mire lehet számítani a következő hónapokban a választói elnyomás és a választási dolgozók elleni támadások terén.
Érdekes módon csak néhány nappal azután, hogy az ElevenLabs bevezette a platform béta verzióját, az emberek kihasználták a technológiát olyan audio klippek létrehozásával, amelyekben hírességek kérdéses mondatokat mondanak. Habár a kezdővállalkozás bátorítja a technológia használatát művészeti és politikai beszédekhez, amelyek hozzájárulnak a közérdekű vitákhoz, figyelmezteti a felhasználókat arra, hogy ne részesüljenek visszaélő célú tevékenységekben, amelyek megsértik a törvényt, például csalás, megkülönböztetés vagy gyűlöletbeszéd. Mindazonáltal ez az eset rámutat arra, hogy az ElevenLabsnak további biztonsági intézkedéseket kell bevezetnie annak érdekében, hogy megakadályozza a rosszindulatú szereplőket a világpolitika manipulálásában.
Kérjük, vegye figyelembe, hogy ez a cikk tartalmazhat partneri linkeket. Ha rákattint ilyen linkre és vásárol, jutalékot kaphatunk.
GYIK:
1. Mi az ElevenLabs?
Az ElevenLabs egy AI kezdővállalkozás, amely beszintézis technológiával kapcsolatos eszközöket fejlesztett ki.
2. Miért tilotta ki az ElevenLabs a felhasználót?
Az ElevenLabs kitiltott egy felhasználót, aki Joe Biden hangját használva deepfake-t készített, választási zavarokat okozva.
3. Hogyan került felhasználásra Joe Biden deepfake-je?
A deepfake egy robocallban került felhasználásra, amely felhívta New Hampshire választóit, hogy ne vegyenek részt államuk előválasztásán.
4. Hogyan derült ki, hogy az ElevenLabs eszközeit használták?
A Pindrop nevű biztonsági cég alapos elemzést végzett és megerősítette, hogy az ElevenLabs eszközeit használták a hangminta alapján, ami meghaladta a 99 százalékos bizonyosságot.
5. Milyen aggodalmak vannak a deepfake technológiával és a választásokkal kapcsolatban?
Az eset, amely a Biden deepfake robocalláról szólt, rámutat az olyan technológiák potenciális hatására, amelyek képesek egy személy hangját és megjelenését utánozni, és ez mennyire hatással lehet a választási elnyomásra és a választási dolgozók elleni támadásokra.
6. Mennyi idő telt el az ElevenLabs technológiájának indítása után, hogy az emberek kihasználják?
Az ElevenLabs platform béta verziójának bemutatása után mindössze néhány nap telt el, és az emberek már kihasználták a technológiát olyan audio klippek létrehozásával, amelyekben hírességek kérdéses mondatokat mondanak.
7. Milyen típusú felhasználást ösztönöz az ElevenLabs a technológiájához?
Az ElevenLabs bátorítja a technológia használatát művészeti és politikai beszédekhez, amelyek hozzájárulnak a közérdekű vitákhoz.
8. Milyen típusú felhasználást nem ajánl az ElevenLabs?
Az ElevenLabs figyelmezteti a felhasználókat, hogy ne részesüljenek visszaélésre alkalmas célú tevékenységekben, például csalás, megkülönböztetés vagy gyűlöletbeszéd.
Definíciók:
– Deepfake: Az mesterséges intelligencia használata, amely segítségével létrehozzák vagy manipulálják az audiót, videót vagy más médiát, olyan módon, hogy megtévesszék a nézőt vagy hallgatót, és azt higgyék, hogy a hamisított tartalom valódi.
– Robocall: Egy automatikus telefonhívás, amely egy előre felvett üzenetet továbbít nagy számú embernek.
Javasolt kapcsolódó linkek:
– ElevenLabs honlapja
– Pindrop honlapja
– Carnegie Mellon Egyetem
The source of the article is from the blog maltemoney.com.br