A medida que la democracia más grande del mundo se prepara para sus próximas elecciones generales, crece la preocupación por el uso de medios generados por inteligencia artificial para manipular y engañar a los votantes en India. Las recientes elecciones estatales en el país han visto la amplia difusión de deepfakes y contenido manipulado, lo que alerta sobre la amenaza a la democracia.
Los partidos políticos en India, incluido el gobernante Partido Bharatiya Janata (BJP) y el partido de oposición Congreso, están desplegando cada vez más deepfakes para influenciar a los votantes. Estos medios generados por IA, que pueden incluir manipulación de audio y video, son cada vez más accesibles y asequibles, con algunas herramientas disponibles por tan solo 10 centavos por video.
El BJP, conocido por su destreza tecnológica, tiene antecedentes de utilizar ilusiones para hacer campaña. En 2014, se utilizaron proyecciones de hologramas del Primer Ministro Narendra Modi para crear la ilusión de campañas simultáneas en múltiples lugares. Sin embargo, el uso de deepfakes ha llevado estas tácticas a un nuevo nivel de engaño.
En un incidente notable, un miembro del parlamento del BJP se convirtió en uno de los primeros políticos del mundo en utilizar deepfakes para hacer campaña. Se crearon videos en los que el político se dirigía a los votantes en diferentes idiomas utilizando IA para generar su voz, alterar sus expresiones y manipular los movimientos de sus labios. Los deepfakes eran tan convincentes que era casi imposible detectar su falsedad al verlos.
Otros partidos políticos también han adoptado la IA para sus estrategias de campaña. El Dravida Munnetra Kazhagam (DMK) utilizó la IA para resucitar al icónico líder M Karunanidhi de entre los muertos, presentando videos realistas del difunto político en eventos de campaña.
Los expertos creen que el uso de deepfakes y la manipulación por IA solo aumentarán en futuras elecciones, permitiendo a los partidos políticos moldear narrativas y crear percepciones a una escala sin precedentes. Aunque algunas startups de IA, como The Indian Deepfaker, están utilizando la tecnología de manera legal y ética, existen preocupaciones sobre la proliferación de solicitudes no éticas por parte de las campañas políticas.
Durante las recientes elecciones legislativas estatales, se presentaron casos de videos deepfake dirigidos a políticos de alto rango. A menudo, se contratan empresas de consultoría privadas para producir este contenido, que luego se difunde a través de plataformas de redes sociales como WhatsApp. El uso de números de ciudadanos comunes en WhatsApp agrega otra capa de anonimato a estas campañas, lo que dificulta rastrear su origen hasta los partidos, candidatos o empresas de IA involucradas.
A medida que India se prepara para sus elecciones de 2024, el impacto potencial de la manipulación de medios generados por IA en el panorama político se hace cada vez más evidente. Es imperativo que las autoridades aborden este problema y establezcan medidas para salvaguardar la integridad del proceso democrático.
The source of the article is from the blog elektrischnederland.nl