En AI-startup vid namn ElevenLabs har vidtagit nödvändiga åtgärder genom att förbjuda en användare som skapade en röst-Deepfake av Joe Biden i ett försök att störa valet, enligt Bloomberg. Deepfaken, som imiterade presidenten, användes i en robocall som uppmanade väljare i New Hampshire att inte delta i delstatens primärval. Även om det initialt var oklart hur teknologin efterliknade Bidens röst, genomförde ett säkerhetsföretag vid namn Pindrop en noggrann analys och identifierade framgångsrikt att ElevenLabs verktyg användes.
Istället för att använda direktcitat från den ursprungliga artikeln kan det förklaras att Pindrop avlägsnade bakgrundsljud och förbättrade ljudet i robocallen innan de jämförde det med prover från numerosa röstsyntes-tekniker associerade med deepfakes. Pindrops VD, Vijay Balasubramaniyan, sade att analysen bekräftade användningen av ElevenLabs verktyg med en säkerhet på över 99 procent. Bloomberg tillade att företaget för närvarande undersöker problemet efter att ha blivit medvetna om Pindrops resultat och redan har identifierat och avstängt det ansvariga kontot.
Händelsen med den deepfakeade Biden-robocallen understryker den potentiella påverkan av teknologier som kan efterlikna en persons röst och utseende, särskilt när det gäller manipulation av röster under det kommande amerikanska presidentvalet. Kathleen Carley, professor vid Carnegie Mellon University, uttryckte sin oro över detta till The Hill och sade att det tjänar som en indikation på vad man kan förvänta sig de kommande månaderna när det gäller väljarförtryck och attacker mot valarbetare.
Intressant nog tog det bara några dagar efter att ElevenLabs lanserade betaversionen av sin plattform för att människor skulle utnyttja teknologin genom att skapa ljudklipp som efterliknar kändisar som säger tvivelaktiga saker. Medan startupen uppmanar till användning av sin teknologi för konstnärligt och politiskt tal som bidrar till offentliga debatter, varnar den användare för att använda teknologin i syfte att missbruka lagen, såsom bedrägeri, diskriminering eller hatfullt tal. Ändå betonar denna händelse behovet av att ElevenLabs implementerar ytterligare skyddsåtgärder för att förhindra att skadliga aktörer manipulerar val världen över.
Observera att denna artikel kan innehålla affiliatelänkar. Om du klickar på en sådan länk och gör ett köp kan vi tjäna en provision.
Vanliga frågor:
The source of the article is from the blog j6simracing.com.br
