En los últimos años, la tecnología de clonación de voz impulsada por la Inteligencia Artificial (IA) ha ganado popularidad, con canciones generadas por IA de artistas famosos volviéndose virales en línea. Sin embargo, rápidamente surgió el lado oscuro de esta tecnología a medida que se propagaban las estafas y la desinformación. Las estafas relacionadas con la clonación de voces se han convertido en una preocupación creciente, con tanto individuos como empresas cayendo víctimas de este tipo de fraude.
India ha surgido como un objetivo principal para las estafas de clones de voz de IA, con un porcentaje significativamente mayor de víctimas en comparación con el promedio mundial. Según un informe, casi la mitad de los indios encuestados o bien experimentaron o conocían a alguien que había caído en una estafa de voz generada por IA. La facilidad de acceso a las herramientas de clonación de voz de IA ha permitido a los estafadores hacerse pasar por personas y engañar a la gente para que les transfieran dinero o compartan información confidencial.
La vulnerabilidad de los indios a estas estafas se atribuye a su disposición a responder a solicitudes urgentes de amigos o familiares que necesitan asistencia financiera. Los estafadores aprovechan esta confianza utilizando excusas como haber sido robados, estar involucrados en un accidente automovilístico o necesitar dinero mientras viajan al extranjero. El sentido de urgencia creado por los estafadores a menudo se sobrepone a las imperfecciones de la tecnología de clonación de voces.
Para crear un clon de voz, los estafadores simplemente necesitan un fragmento de audio de la persona objetivo, que se puede cargar en un programa en línea capaz de replicar su voz. Existen varias herramientas disponibles, incluyendo populares como Murf, Resemble y Speechify. Algunas startups, respaldadas por conocidas empresas de tecnología como Andreesen Horowitz, también han incursionado en el mercado de clonación de voz de IA.
La creciente prevalencia de la tecnología de clonación de voz ha generado preocupaciones entre los reguladores y las agencias de aplicación de la ley. La Comisión Federal de Comercio de Estados Unidos ha lanzado un Desafío de Clonación de Voz, en busca de ideas innovadoras para detectar y monitorear dispositivos clonados. Sin embargo, los rápidos avances en Inteligencia Artificial generativa y la disponibilidad de herramientas de código abierto plantean desafíos para los reguladores a la hora de adelantarse a los estafadores.
Se proyecta que el mercado global de aplicaciones de clonación de voz de IA crecerá significativamente, alcanzando alrededor de $5 mil millones para 2032. Con el potencial de estafas y campañas de desinformación más sofisticadas, es crucial que los individuos y las organizaciones permanezcan vigilantes y tengan precaución al responder a llamadas de voz o mensajes que soliciten asistencia financiera.
A medida que la tecnología de IA continúa evolucionando, se vuelve cada vez más necesario encontrar un equilibrio entre la innovación y abordar los posibles riesgos asociados con la clonación de voz. Los esfuerzos tanto de las empresas de tecnología como de los reguladores son esenciales para combatir las estafas de clones de voz de IA y proteger a las personas de caer víctimas de estas actividades fraudulentas.
The source of the article is from the blog revistatenerife.com