En medio de la aproximación de la temporada electoral en India, las preocupaciones sobre el impacto de las deepfakes de inteligencia artificial (IA) en las campañas políticas han ido en aumento. Las deepfakes, que son imágenes y videos sintéticos y realistas, se han vuelto más prevalentes y sofisticados en los últimos años. Pueden manipular los discursos y apariencias de los políticos, creando un sentido de duda y desconfianza entre los votantes.
Con la disponibilidad de datos móviles baratos y una alta penetración de smartphones en India, existe la preocupación de que las deepfakes puedan ser difundidas a través de plataformas como WhatsApp, influyendo en las decisiones de los votantes o haciéndolos cuestionar la importancia de sus votos.
Para abordar estas preocupaciones, recientemente el Ministerio de Electrónica e Información Tecnológica de India emitió una advertencia a las empresas de IA generativa. La advertencia establece que si estas compañías ofrecen sistemas de IA que aún están en fase de pruebas o no son fiables, deben obtener permiso explícito del gobierno y etiquetar adecuadamente los resultados. El objetivo es prevenir la generación de contenido ilegal o engañoso que pueda socavar el proceso electoral.
Sin embargo, esta advertencia ha recibido duras críticas tanto de jugadores de IA nacionales como internacionales. Muchos argumentan que limita la innovación y la libertad de expresión. El Ministro de Estado de Electrónica e IT, Rajeev Chandrasekhar, aclaró que la advertencia no se aplica a las startups, lo que proporcionó cierto alivio. A pesar de ello, persisten las preocupaciones sobre el mal uso de la tecnología de IA.
En respuesta a estas preocupaciones, Senthil Nayagam, el fundador de la startup Muonium AI, ha creado un ‘Manifiesto de la Coalición de IA Ética’ antes de las elecciones. Este manifiesto tiene como objetivo garantizar que las tecnologías de IA se utilicen de manera responsable y no manipulen las elecciones, difundan desinformación o socaven la confianza pública en las instituciones políticas. Nayagam se ha puesto en contacto con alrededor de 30 empresas, de las cuales dos ya han firmado el manifiesto y tres están en proceso de firmar.
No todas las creaciones de IA son deepfakes siniestros destinados a difamar a los oponentes. Algunas aplicaciones, como las llamadas telefónicas interactivas personalizadas, son más bien novedades que amenazas a la integridad electoral. Por ejemplo, los partidos políticos en India han utilizado voces sintetizadas para enviar mensajes pregrabados dirigiéndose a los votantes individuales por su nombre. A pesar de que estas aplicaciones pueden parecer inofensivas, es importante considerar el potencial de mal uso.
Divyendra Singh Jadoun, un creador de IA conocido como ‘The Indian Deepfaker’, ha entrenado modelos de IA vocales y de video para distribuir mensajes personalizados para los partidos políticos. Afirma trabajar en creaciones de IA «éticas», como traducciones autorizadas y resucitaciones de líderes fallecidos, con la aprobación del partido. No obstante, reconoce que a medida que la tecnología de deepfake se vuelve más accesible, los partidos producen cada vez más sus propias deepfakes, facilitando la difusión de desinformación.
Expertos en el campo, como Karen Rebelo del sitio web de verificación de hechos BOOM, han observado un aumento significativo de deepfakes de IA durante las recientes elecciones legislativas en India. La tecnología se ha vuelto más barata y accesible, permitiendo a cualquiera con un ordenador portátil crear deepfakes. Esto genera preocupaciones sobre el impacto potencial de las deepfakes en la equidad y transparencia de las elecciones.
Mientras que las deepfakes de IA son motivo de preocupación, también tienen el potencial de ser utilizadas para el bien. Las tecnologías de IA pueden desempeñar un papel positivo en la mejora del proceso democrático, como la mejora de la accesibilidad para votantes con discapacidad o proporcionando traducciones precisas de discursos políticos. La clave radica en garantizar que estas tecnologías se utilicen de manera ética y responsable.
A medida que India se prepara para las próximas elecciones, es esencial que el gobierno, las empresas de IA y los partidos políticos trabajen juntos para establecer pautas y regulaciones claras para el uso de IA en las campañas políticas. Al priorizar la transparencia, la rendición de cuentas y la integridad del proceso electoral, India puede aprovechar el potencial de la IA mientras mitiga los riesgos que plantea.
Las repercusiones y preocupaciones en torno a las deepfakes en las campañas políticas no se limitan únicamente a India. El uso de la tecnología de deepfake se ha convertido en un problema global, con implicaciones para diversas industrias y mercados.
La industria de las deepfakes está preparada para un crecimiento significativo en los próximos años. Según un informe de MarketsandMarkets, se prevé que el mercado global de deepfakes alcance un valor de $304.3 millones para el 2026, con una tasa de crecimiento anual compuesta (CAGR) del 37.3% desde el 2021 hasta el 2026. Este crecimiento de mercado se puede atribuir al aumento en el uso de la tecnología de IA y a la creciente concienciación sobre las deepfakes.
El impacto potencial de las deepfakes se extiende más allá de las campañas políticas. Industrias como el entretenimiento, la ciberseguridad y el periodismo también enfrentan desafíos relacionados con la tecnología de deepfake. En la industria del entretenimiento, por ejemplo, las deepfakes se pueden utilizar para manipular las apariencias de los actores o crear avatares virtuales realistas. Esto plantea preocupaciones sobre la privacidad, los derechos de propiedad intelectual y la autenticidad del contenido.
En el ámbito de la ciberseguridad, las deepfakes representan una amenaza significativa. Los videos e imágenes falsos pueden utilizarse para engañar a individuos o acceder de forma no autorizada a sistemas. Los ciberdelincuentes pueden explotar las deepfakes para crear ataques de phishing convincentes o manipular pruebas digitales durante procesos legales.
El periodismo es otra industria afectada por las deepfakes. La propagación de desinformación y la erosión de la confianza pública son desafíos significativos a los que se enfrentan los periodistas en la era de las deepfakes. Las organizaciones de noticias necesitan desarrollar técnicas sólidas de verificación de hechos y educar al público sobre cómo detectar y verificar la autenticidad del contenido.
En respuesta a la creciente amenaza de las deepfakes, han surgido varias iniciativas y organizaciones para combatir sus efectos negativos. Una de esas iniciativas es el Desafío de Detección de Deepfakes (DFDC), organizado por una colaboración entre Facebook, Microsoft, la Asociación en IA y varias instituciones académicas. El DFDC tiene como objetivo desarrollar y mejorar métodos de detección para identificar deepfakes, ayudando a limitar su propagación.
La responsabilidad de abordar el problema de las deepfakes va más allá de las regulaciones gubernamentales e iniciativas de la industria. Los individuos también deben ser conscientes de la existencia de las deepfakes y ser cautelosos con el contenido que consumen y comparten. Verificar la información, verificar las fuentes y promover la alfabetización mediática son pasos esenciales para combatir la propagación de deepfakes.
Si bien abordar las deepfakes es una tarea compleja, los avances en la tecnología de IA también se pueden aprovechar para desarrollar herramientas para detectar y mitigar su impacto. Los algoritmos de aprendizaje automático pueden ser entrenados para identificar anomalías en videos o imágenes y distinguir entre contenido auténtico y manipulado. La investigación continua y la colaboración entre empresas de tecnología, investigadores y responsables políticos son cruciales para abordar de manera efectiva los desafíos relacionados con las deepfakes.
Fuentes relacionadas:
– Reporte de Mercado de Deepfakes de MarketsandMarkets
– [Deepfake Detection](#)
The source of the article is from the blog mendozaextremo.com.ar