El papel de la Inteligencia Artificial en la guerra moderna plantea nuevas amenazas
En el panorama cambiante de la guerra, los sistemas de armas autónomos impulsados por la inteligencia artificial (IA) son una preocupación apremiante para la seguridad global. El profesor Karl Hans Bläsius, un profesor jubilado de informática especializado en IA, alerta sobre el potencial de estas tecnologías para desencadenar ciclos de escalada rápida más allá del control humano.
El Prof. Bläsius destaca los beneficios de la autonomía en la tecnología, como el potencial de los coches autónomos y robots en entornos peligrosos. Sin embargo, enfatiza los graves riesgos asociados con armas que funcionan de forma autónoma y están diseñadas para la destrucción. Sostiene que automatizar el acto de matar es indeseable y advierte sobre avances particularmente peligrosos, incluidos los relacionados con armas nucleares.
Estableciendo paralelismos con los algoritmos de trading de alta frecuencia del mundo financiero, que han causado accidentes de mercado repentinos conocidos como «flash crashes», el Prof. Bläsius advierte que las armas impulsadas por IA podrían incurrir en interacciones imprevistas de manera similar, lo que resultaría en «guerras rápidas» rápidas e incontrolables. Estos escenarios describen un futuro donde los sistemas automatizados se involucran en la guerra a velocidades más allá de la capacidad humana de contrarrestar, creando un efecto en espiral de agresión y contraagresión.
Destacando el uso existente de la IA en la determinación de objetivos militares, como el uso de Israel para identificar combatientes de Hamas y sus ubicaciones, el Prof. Bläsius expresa preocupación por la falta de verificación humana en estas situaciones, lo que en última instancia podría llevar a que las máquinas decidan quién vive y quién muere, incluidos civiles.
Bläsius concluye abordando la necesidad de la IA en la gestión de la inmensa complejidad y presión temporal de las operaciones militares modernas. Sin embargo, reconoce la naturaleza problemática de estos desarrollos, dada su capacidad para eludir el juicio humano y las implicaciones éticas asociadas.
Desafíos y controversias de las armas autónomas impulsadas por IA
Las armas autónomas impulsadas por IA plantean una serie de preguntas y desafíos complejos que han suscitado controversias en diversos sectores, incluidos los ámbitos militar, político, ético y legal. A continuación, se presentan algunos de los principales desafíos y controversias:
Responsabilidad: Uno de los problemas principales con los sistemas de armas autónomos es la cuestión de quién debe asumir la responsabilidad en caso de destrucción no intencionada o muerte injusta. Sin pautas claras, asignar responsabilidad por las acciones tomadas por la IA puede ser desafiante.
Consideraciones éticas: El uso de la IA en la guerra plantea cuestiones éticas sobre la devaluación de la vida humana. Una máquina no valora y no puede valorar la vida humana, lo que genera preocupaciones de que su despliegue en la guerra pueda resultar en una mayor propensión a participar en conflictos y en una mayor pérdida de vidas.
Erosión de la toma de decisiones políticas: Tradicionalmente, la decisión de ir a la guerra es una decisión política, tomada por representantes o líderes electos. Con sistemas impulsados por IA que podrían reaccionar a amenazas en milisegundos, existe el temor de que el proceso político pueda ser eludido y las guerras puedan comenzar sin el debido proceso democrático.
Escalada militar: El despliegue de armas autónomas podría llevar a una carrera armamentista, ya que las naciones buscan no quedarse atrás en cuanto a las capacidades de otros. Esto podría conducir a un aumento de las tensiones militares e inestabilidad a nivel mundial.
Riesgo de mal funcionamiento: Los sistemas impulsados por IA son susceptibles a fallas técnicas y mal funcionamiento. En caso de un fallo de software o un incidente de piratería, las armas autónomas podrían participar en comportamientos no deseados o impredecibles que podrían desencadenar conflictos.
Ventajas y desventajas
Ventajas:
– Mayor eficiencia y rapidez para responder a amenazas
– Reducción del riesgo para los soldados humanos en situaciones de combate
– Precisión en el apuntamiento que puede reducir daños colaterales en ciertos contextos
– Operación en entornos demasiado peligrosos para los humanos
Desventajas:
– Potencial para la pérdida de responsabilidad y supervisión humana disminuida
– Problemas éticos en relación al valor de la vida humana y la toma de decisiones en el uso de la fuerza letal
– Posibilidad de malfuncionamientos o de ser comprometidos por adversarios
– Riesgo de escalada y proliferación de conflictos militares (guerras rápidas)
– Dilema en programar la IA para que cumpla con el derecho internacional humanitario
Preguntas clave:
1. ¿Quién es responsable de las acciones tomadas por un sistema de armas autónomo?
2. ¿Cómo puede la guerra impulsada por IA cumplir con el derecho internacional humanitario?
3. ¿Qué mecanismos se pueden poner en marcha para garantizar una supervisión humana adecuada sobre las armas autónomas?
4. ¿Cómo puede la comunidad internacional prevenir la proliferación y escalada de las armas autónomas impulsadas por IA?
A medida que continúa la discusión sobre las armas autónomas impulsadas por IA, las Naciones Unidas se han convertido en una plataforma donde estos desafíos se debaten, buscando un consenso global sobre la regulación y el control de dichas armas.
En general, si bien existen potenciales ventajas en el despliegue de la IA en operaciones militares, las desventajas y los riesgos resaltan la necesidad de una cuidadosa consideración y regulación a nivel internacional. La perspectiva de «guerras rápidas» sirve como un sombrío recordatorio de las posibles consecuencias de una aplicación precipitada de la IA en la guerra sin los controles y equilibrios necesarios.