Los avances en inteligencia artificial (IA) han simplificado la creación de deepfakes tanto en audio como en video, permitiendo la manipulación de imágenes y voces para representar acciones y discursos que nunca ocurrieron en realidad. Como resultado, los derechos individuales están en peligro, lo que requiere protecciones más sólidas. Reconociendo el posible daño en las próximas elecciones globales, las principales empresas tecnológicas se han unido para abordar el uso indebido de la IA.
La Tecnología Deepfake Plantea Preocupaciones sobre la Integridad Electoral
La tecnología deepfake continúa evolucionando, generando alarma por la posible interferencia en las elecciones de 2024, donde cerca de 4 mil millones de personas emitirán votos en cincuenta países. Esta creciente preocupación es compartida por académicos, periodistas y políticos que se preocupan por el impacto del contenido generado por IA en los procesos políticos.
Impacto de la IA en el Tejido Social y los No Famosos
El rápido desarrollo de la tecnología deepfake plantea amenazas más allá de las figuras públicas como políticos y celebridades. Incluso individuos comunes pueden ser blanco, con sus semejanzas utilizadas en fabricaciones, lo que conlleva implicaciones sociales y personales. Las iniciativas colectivas se han vuelto imperativas para contrarrestar las tácticas engañosas de la inteligencia artificial.
Ejemplos de Uso Indebido de Deepfakes en la Vida Real
Estudios de casos destacan usos indebidos, como un clip de audio deepfake falsamente atribuido al Presidente de EE.UU. Joe Biden que se difundió en New Hampshire, instando engañosamente a los ciudadanos a no votar. En Eslovaquia, un audio deepfake implicó a un político en acusaciones de fraude electoral justo antes de las elecciones nacionales. Además, el contenido manipulado ha apuntado a figuras públicas como el alcalde de Londres Sadiq Khan y celebridades como Tom Hanks y Taylor Swift, propagándose rápidamente en redes sociales antes de ser eliminado.
El Frente Unido Contra el Engaño de la IA
En respuesta a estas preocupaciones, surgió un histórico «Acuerdo Tecnológico para Contrarrestar el Uso Engañoso de la IA en las Elecciones de 2024» de la Conferencia de Seguridad de Múnich. Los principales operadores, incluidos Adobe, Google, Microsoft, OpenAI, Snap y Meta, se comprometieron a detectar y combatir contenido dañino de IA destinado a engañar a los votantes. Resolvieron promover la conciencia pública y la alfabetización mediática para fortalecer la resiliencia societal. La acción concertada de veinte empresas diversas indica un compromiso renovado para frenar las amenazas que la inteligencia artificial plantea a la integridad electoral.
[…]