Desastre de Horizon: Una historia aleccionadora sobre la fe ciega en la tecnología

En lo que solo se puede describir como uno de los mayores fallos de justicia en la historia de nuestra nación, más de 900 subdirectores de correos fueron implacablemente procesados por robo, contabilidad falsa y fraude durante un período de 16 años. La Oficina de Correos, que tuvo la audacia de acusar a estos individuos inocentes, convenientemente pasó por alto el hecho de que los desajustes en sus sucursales eran el resultado directo de errores en el software contable impuesto por ellos. Rishi Sunak, desafortunadamente, carente de imaginación, no logró comprender la magnitud de esta tragedia.

Los Marines de Estados Unidos tienen un término adecuado para el desastre de Horizon: un «desastre total». Un fracaso completo, plagado de numerosos errores y problemas que ocurren simultáneamente. Horizon, un sistema de adquisición de TI extenso y plagado de errores, fue el resultado de un proceso defectuoso y desconcertante al que el estado británico había estado adicto durante décadas. Comprado a Fujitsu, una filial de ICL, el sistema tenía como objetivo reemplazar el obsoleto sistema de contabilidad basado en papel en las oficinas de correos. Sin embargo, el despliegue precipitado y la capacitación insuficiente para los subdirectores de correo no técnicos llevaron al descubrimiento de errores y deficiencias en el sistema.

A pesar de estos problemas evidentes, la dirección de la Oficina de Correos persistió con una fe inquebrantable en la tecnología, negándose a reconocer sus deficiencias. Los subdirectores de correo pagaron el precio con sus vidas arruinadas, y algunos, trágicamente, incluso se quitaron la vida. El sistema Horizon pretendía ser un sistema electrónico de punto de venta que revolucionaría la gestión de flujo de efectivo en todo el país. Sin embargo, rápidamente quedó claro que no estaba a la altura de la tarea.

Ya en 2001, un equipo de desarrollo descubrió «cientos» de errores dentro del sistema. Un ejemplo notable fue el «Error de Dalmellington», que hacía que la pantalla se congelara al confirmar el recibo de efectivo. Cada vez que el operador presionaba Enter en la pantalla congelada, el registro se actualizaba silenciosamente, lo que finalmente responsabilizaba al subdirector de cualquier discrepancia.

Lo que hace aún más asombroso todo este drama es el tiempo que tardó el sistema político en reconocer la verdad. Los periodistas han informado diligentemente sobre las víctimas de Horizon desde 2009, con más de 350 historias publicadas al respecto. Sin embargo, no fue hasta la emisión de «Mr. Bates vs the Post Office» en ITV que el asunto recibió una atención significativa. La indignación pública después de la transmisión llevó al Primer Ministro a abordar la Cámara de los Comunes y prometer acción.

La lección principal que se debe aprender de este fracaso catastrófico es el peligro de confiar ciegamente en la tecnología. La Oficina de Correos creyó de todo corazón en un sistema de software tradicional que tenía deficiencias evidentes, deficiencias que cualquier investigador competente habría identificado. A medida que avanzamos, nos enfrentamos ahora a la implementación de un nuevo tipo de tecnología: la inteligencia artificial (IA), que es completamente opaca e inexplicable. Los desafíos para corregir las injusticias derivadas de las decisiones y acciones erróneas de la IA sin duda serán mucho más complejos. Mientras que Horizon luchaba con la contabilidad, los vuelos de fantasía en los que las IA pueden embarcarse deben ser presenciados para ser creídos.

Es crucial que abordemos los avances tecnológicos con un ojo crítico y no repitamos los errores de la fe ciega. El desastre de Horizon debe servir como una historia aleccionadora, recordando a las organizaciones la importancia de una investigación exhaustiva y un juicio sólido al adoptar nuevas tecnologías. Solo así podremos mitigar el potencial de futuras injusticias.

The source of the article is from the blog aovotice.cz

Privacy policy
Contact