Más de 80 países se preparan para celebrar elecciones este año se encuentran en la encrucijada de la tecnología y la democracia. Han surgido herramientas avanzadas de inteligencia artificial (IA) que permiten la creación de contenido falso hiperrealista que puede influir en los votantes y perturbar las instituciones democráticas.
En medio de esta creciente oleada de elecciones, en las que la mitad de la población mundial emitirá votos, entidades maliciosas encuentran la oportunidad perfecta para desplegar esa tecnología con intenciones dañinas. Esto sucede en un momento en el que las principales compañías de redes sociales están disminuyendo sus equipos de fiabilidad y seguridad, aumentando así la vulnerabilidad de sus plataformas a campañas de desinformación impulsadas por la IA.
Taiwán presenció tales amenazas cuando surgieron videos falsos, posiblemente propagados por China, alegando que el candidato presidencial Lai Ching-te había tenido hijos ilegítimos. Estos videos tenían como objetivo desacreditar a los políticos que abogan por la soberanía de Taiwán.
Siguen surgiendo casos inquietantes de medios engañosos en todo el mundo. En Bangladesh, antes de las elecciones de enero, se intentó avivar la indignación religiosa mediante videos generados por IA que mostraban de manera inapropiada a un político de la oposición. Eslovaquia también enfrentó disruptores de elecciones relacionados con la IA: surgieron grabaciones de audio que probablemente fueron alteradas para implicar a un líder de un partido liberal en comportamientos poco éticos.
El Reino Unido pronto podría enfrentar este desafío, con falsas acusaciones circulando contra figuras políticas a través de contenido de redes sociales generado por IA. Gigantes tecnológicos como Meta y YouTube abogan por etiquetar el material generado por IA, creando una sensación de estar tomando medidas contra el mal uso de la IA.
Sin embargo, en realidad, la reducción de los equipos de supervisión de contenido y el relajamiento de políticas sobre desinformación pintan un panorama preocupante sobre la posible explotación de estas plataformas en los Estados Unidos antes de las elecciones de noviembre. La voz de Joe Biden ya ha sido imitada utilizando tecnología de IA para difundir mentiras en New Hampshire.
Por la integridad del proceso democrático, sigue siendo crucial que las empresas tecnológicas reevalúen sus políticas y refuercen sus medidas de protección contra los abusos de la IA. Lamentablemente, el compromiso con estas reformas parece no estar en la agenda de estos gigantes tecnológicos. Defensores de la transparencia tecnológica como Katie Paul en Washington D.C. abogan por acciones urgentes para evitar el mal uso de la IA en la manipulación de votantes.
Preguntas y Respuestas:
1. ¿Cómo se utiliza la IA para crear desinformación?
La IA se puede utilizar para crear «deepfakes» (videos o grabaciones de audio de individuos diciendo o haciendo cosas que nunca hicieron), generar artículos de noticias falsos persuasivos o automatizar la difusión de desinformación a gran escala en las redes sociales.
2. ¿Por qué las elecciones son un objetivo principal para la desinformación habilitada por la IA?
Las elecciones son eventos de alto riesgo con consecuencias políticas significativas. La desinformación puede influir en el comportamiento del votante, socavar la confianza en las instituciones y afectar los resultados electorales.
3. ¿Qué medidas están tomando las empresas de redes sociales para combatir la desinformación impulsada por la IA?
Algunas empresas están etiquetando el material generado por IA, invirtiendo en algoritmos de aprendizaje automático para detectar y eliminar información falsa y trabajando con verificadores de datos independientes. Sin embargo, existen preocupaciones sobre la reducción de equipos de supervisión de contenido y políticas laxas sobre desinformación.
4. ¿Cuáles son los desafíos para combatir la desinformación habilitada por la IA?
Los desafíos incluyen la naturaleza convincente de los «deepfakes», la velocidad a la que se puede distribuir el contenido generado por IA y la dificultad para distinguir lo auténtico de lo falso. Además, existen preocupaciones sobre la libertad de expresión y la carrera tecnológica entre los creadores y detectores de desinformación.
5. ¿Qué papel pueden desempeñar los gobiernos y los responsables de políticas en abordar la desinformación habilitada por la IA?
Los gobiernos y los responsables de políticas pueden implementar regulaciones para responsabilizar a las empresas tecnológicas, apoyar la investigación en métodos de detección de IA, promover la alfabetización digital entre la población y garantizar la protección de los procesos democráticos.
Desafíos o Controversias Clave:
– Escalabilidad de los Métodos de Detección: A medida que avanza la tecnología de IA, mantenerse al día con la desinformación generada por IA se vuelve cada vez más difícil, requiriendo el desarrollo continuo de métodos de detección más sofisticados.
– Liberad de Expresión vs. Censura: Las políticas destinadas a frenar la desinformación a veces plantean preocupaciones sobre censurar contenido legítimo o suprimir la libertad de expresión.
– Consistencia Global: Los diferentes países tienen marcos legales y regulatorios diversos, lo que puede hacer que un enfoque coherente para combatir la desinformación sea una tarea compleja.
– Responsabilidad de las Empresas Tecnológicas: Existe un debate en curso sobre el alcance de la responsabilidad que deben asumir las empresas tecnológicas por el contenido compartido en sus plataformas.
Ventajas y Desventajas:
– Ventajas: Los avances tecnológicos permiten identificar y eliminar rápidamente la desinformación, pueden empoderar a los consumidores con información y fomentan la comunicación transparente.
– Desventajas: La IA también puede ser utilizada maliciosamente para generar desinformación creíble, causar confusión entre los votantes y erosionar la confianza en las instituciones democráticas y los procesos.
Enlaces Relacionados:
Aquí tienes enlaces sugeridos relacionados con el tema:
– Naciones Unidas: para esfuerzos y discusiones internacionales sobre las implicaciones de la desinformación en la gobernanza global.
– Organización Mundial de la Salud: para el papel de la desinformación en la salud pública, un área relacionada con implicaciones en la gobernanza y la confianza en instituciones.
– Organización para la Seguridad y la Cooperación en Europa: por su trabajo en libertad de medios y esfuerzos para contrarrestar la desinformación.
Estos puntos y enlaces proporcionan contexto adicional sobre el uso de la desinformación habilitada por la IA en escenarios electorales globales y los desafíos más amplios que presenta para las sociedades democráticas.