Uma startup de IA chamada ElevenLabs tomou ação necessária ao banir um usuário que criou um deepfake de voz de Joe Biden em uma tentativa de perturbar as eleições, como relatado pela Bloomberg. O deepfake, que se passava pelo presidente, foi usado em uma ligação robótica que pediu aos eleitores em New Hampshire para não participarem das primárias do estado. Embora inicialmente não estivesse claro como a tecnologia imitava a voz de Biden, uma empresa de segurança chamada Pindrop conduziu uma análise detalhada e identificou com sucesso que as ferramentas da ElevenLabs foram utilizadas.
Em vez de usar citações diretas do artigo original, pode ser explicado que a Pindrop removeu o ruído de fundo e aprimorou o áudio da ligação robótica antes de compará-la com amostras de várias tecnologias de síntese de voz associadas a deepfakes. O CEO da Pindrop, Vijay Balasubramaniyan, afirmou que a análise confirmou o uso das ferramentas da ElevenLabs com uma certeza superior a 99%. A Bloomberg acrescentou que, embora a empresa esteja investigando o problema após tomar conhecimento dos resultados da Pindrop, ela já identificou e suspendeu a conta responsável.
O incidente envolvendo a ligação robótica deepfake de Biden destaca o impacto potencial de tecnologias capazes de imitar a voz e a aparência de uma pessoa, especialmente no que diz respeito à manipulação de votos durante as próximas eleições presidenciais dos EUA. Kathleen Carley, professora da Universidade Carnegie Mellon, expressou sua preocupação com esse assunto ao The Hill, afirmando que isso serve como indicação do que esperar nos próximos meses em termos de supressão de eleitores e ataques aos trabalhadores eleitorais.
Curiosamente, levou apenas alguns dias depois que a ElevenLabs lançou a versão beta de sua plataforma para as pessoas explorarem a tecnologia criando trechos de áudio que imitam celebridades dizendo coisas questionáveis. Embora a startup incentive o uso de sua tecnologia para fins artísticos e políticos que contribuam para os debates públicos, ela adverte os usuários contra o envolvimento em fins abusivos que violem a lei, como fraude, discriminação ou discurso de ódio. No entanto, esse incidente destaca a necessidade de a ElevenLabs implementar salvaguardas adicionais para evitar que atores maliciosos manipulem eleições em todo o mundo.
Observe que este artigo pode conter links afiliados. Se você clicar em um link desse tipo e efetuar uma compra, podemos receber uma comissão.
Perguntas frequentes:
1. O que é a ElevenLabs?
A ElevenLabs é uma startup de IA que desenvolveu ferramentas para tecnologia de síntese de voz.
2. Por que a ElevenLabs baniu um usuário?
A ElevenLabs baniu um usuário que criou um deepfake de voz de Joe Biden em uma tentativa de perturbar as eleições.
3. Como o deepfake de Joe Biden foi usado?
O deepfake foi usado em uma ligação robótica que pediu aos eleitores em New Hampshire para não participarem das primárias do estado.
4. Como foi determinado que as ferramentas da ElevenLabs foram usadas?
Uma empresa de segurança chamada Pindrop conduziu uma análise detalhada e confirmou o uso das ferramentas da ElevenLabs com uma certeza superior a 99%.
5. Quais são as preocupações em relação à tecnologia deepfake e eleições?
O incidente envolvendo a ligação robótica deepfake de Biden destaca o impacto potencial de tecnologias capazes de imitar a voz e a aparência de uma pessoa na supressão de eleitores e nos ataques aos trabalhadores eleitorais.
6. Quão rápido as pessoas exploraram a tecnologia da ElevenLabs após o seu lançamento?
Levou apenas alguns dias após o lançamento da versão beta da plataforma da ElevenLabs para as pessoas explorarem a tecnologia criando trechos de áudio que imitam celebridades dizendo coisas questionáveis.
7. Quais tipos de uso a ElevenLabs incentiva para sua tecnologia?
A ElevenLabs incentiva o uso de sua tecnologia para fins artísticos e políticos que contribuam para os debates públicos.
8. Quais tipos de uso a ElevenLabs alerta contra?
A ElevenLabs alerta os usuários contra o envolvimento em fins abusivos que violem a lei, como fraude, discriminação ou discurso de ódio.
Definições:
– Deepfake: O uso de inteligência artificial para criar ou manipular áudio, vídeo ou outros meios de comunicação de maneira a enganar o espectador ou ouvinte, fazendo com que o conteúdo falsificado pareça genuíno.
– Ligação robótica: Uma ligação telefônica automatizada que entrega uma mensagem pré-gravada para um grande número de pessoas.
Links relacionados sugeridos:
– Website da ElevenLabs
– Website da Pindrop
– Universidade Carnegie Mellon
