Una startup de IA llamada ElevenLabs ha tomado la acción necesaria al prohibir a un usuario que creó un deepfake de voz de Joe Biden en un intento de alterar las elecciones, según informó Bloomberg. El deepfake, que se hizo pasar por el presidente, se utilizó en una llamada robótica que instaba a los votantes de New Hampshire a no participar en las primarias de su estado. Aunque inicialmente no estaba claro cómo la tecnología imitaba la voz de Biden, una empresa de seguridad llamada Pindrop realizó un análisis exhaustivo e identificó con éxito que se utilizaron las herramientas de ElevenLabs.
En lugar de utilizar citas directas del artículo original, se puede explicar que Pindrop eliminó el ruido de fondo y mejoró el audio de la llamada robótica antes de compararlo con muestras de numerosas tecnologías de síntesis de voz asociadas con deepfakes. El CEO de Pindrop, Vijay Balasubramaniyan, afirmó que el análisis confirmó el uso de las herramientas de ElevenLabs con una certeza superior al 99 por ciento. Bloomberg añadió que, aunque la empresa está investigando actualmente el problema después de que se le informaran los hallazgos de Pindrop, ya ha identificado y suspendido la cuenta responsable.
El incidente relacionado con la llamada robótica deepfake de Biden pone de manifiesto el impacto potencial de las tecnologías capaces de imitar la voz y apariencia de una persona, en particular en lo que respecta a la manipulación de votos durante las próximas elecciones presidenciales de Estados Unidos. Kathleen Carley, profesora de la Universidad Carnegie Mellon, expresó su preocupación al respecto a The Hill, afirmando que esto sirve como indicación de lo que se puede esperar en los próximos meses en términos de supresión de votantes y ataques a los trabajadores electorales.
Curiosamente, solo tomó unos días después de que ElevenLabs lanzara la versión beta de su plataforma para que las personas explotaran la tecnología creando clips de audio que imitan a celebridades diciendo cosas cuestionables. Si bien la startup fomenta el uso de su tecnología para el discurso artístico y político que contribuye a los debates públicos, advierte a los usuarios que eviten fines abusivos que infrinjan la ley, como el fraude, la discriminación o los discursos de odio. No obstante, este incidente destaca la necesidad de que ElevenLabs implemente salvaguardias adicionales para evitar que actores malintencionados manipulen elecciones en todo el mundo.
Tenga en cuenta que este artículo puede contener enlaces de afiliados. Si hace clic en dicho enlace y realiza una compra, podemos obtener una comisión.
Preguntas frecuentes:
1. ¿Qué es ElevenLabs?
ElevenLabs es una startup de IA que ha desarrollado herramientas para la tecnología de síntesis de voz.
2. ¿Por qué ElevenLabs prohibió a un usuario?
ElevenLabs prohibió a un usuario que creó un deepfake de voz de Joe Biden en un intento de alterar las elecciones.
3. ¿Cómo se utilizó el deepfake de Joe Biden?
El deepfake se utilizó en una llamada robótica que instaba a los votantes de New Hampshire a no participar en las primarias de su estado.
4. ¿Cómo se determinó que se utilizaron las herramientas de ElevenLabs?
Una empresa de seguridad llamada Pindrop realizó un análisis exhaustivo y confirmó el uso de las herramientas de ElevenLabs con una certeza superior al 99 por ciento.
5. ¿Cuáles son las preocupaciones en cuanto a la tecnología deepfake y las elecciones?
El incidente relacionado con la llamada robótica deepfake de Biden pone de manifiesto el impacto potencial de las tecnologías capaces de imitar la voz y apariencia de una persona en la supresión de votantes y los ataques a los trabajadores electorales.
6. ¿Cuán rápido aprovecharon las personas la tecnología de ElevenLabs después de su lanzamiento?
Solo tomó unos días después del lanzamiento de la versión beta de la plataforma de ElevenLabs para que las personas aprovecharan la tecnología creando clips de audio que imitan a celebridades diciendo cosas cuestionables.
7. ¿Qué tipos de uso fomenta ElevenLabs para su tecnología?
ElevenLabs fomenta el uso de su tecnología para el discurso artístico y político que contribuye a los debates públicos.
8. ¿Contra qué tipos de uso advierte ElevenLabs?
ElevenLabs advierte a los usuarios que eviten fines abusivos que infrinjan la ley, como el fraude, la discriminación o los discursos de odio.
Definiciones:
– Deepfake: El uso de inteligencia artificial para crear o manipular audio, video u otro tipo de medios de manera que engañe o lleve a error al espectador o oyente haciéndole creer que el contenido falsificado es genuino.
– Llamada robótica: Una llamada telefónica automatizada que entrega un mensaje pregrabado a un gran número de personas.
Enlaces relacionados sugeridos:
– Sitio web de ElevenLabs
– Sitio web de Pindrop
– Universidad Carnegie Mellon
The source of the article is from the blog revistatenerife.com