Sous-titré : « Horizon Fiasco : Un Conte Avertisseur de la Foi Aveugle en la Technologie »
Dans ce qui ne peut être décrit que comme l’une des plus grandes erreurs judiciaires de l’histoire de notre nation, plus de 900 subpostmasters ont été impitoyablement poursuivis pendant 16 ans pour vol, fausses comptabilités et fraudes. La Poste, qui a osé accuser ces individus innocents, a commodément ignoré le fait que les écarts dans leurs agences étaient le résultat direct de bugs dans le logiciel de comptabilité qu’elle avait imposé. Rishi Sunak, malheureusement dépourvu d’imagination, n’a pas compris l’ampleur de cette tragédie.
Les Marines américains ont un terme approprié pour le fiasco Horizon : un « merdier ». Un échec complet, plongé dans de nombreuses erreurs et problèmes se produisant simultanément. Horizon, un système informatique encombrant et infesté de bugs, était le fruit d’un processus défectueux et ignorant auquel l’État britannique était accro depuis des décennies. Acheté à Fujitsu, une filiale d’ICL, le système visait à remplacer le système de comptabilité obsolète basé sur papier dans les bureaux de poste. Cependant, le déploiement précipité et la formation insuffisante des sous-maîtres non techniques ont conduit à la découverte de bugs et de lacunes dans le système.
Malgré ces problèmes criants, la direction de la Poste a persisté avec une foi inébranlable dans la technologie, refusant de reconnaître ses lacunes. Les sous-maîtres en ont payé le prix, leur vie ruinée et certains ont tragiquement mis fin à leurs jours. Le système Horizon était censé être un système de point de vente électronique, révolutionnant la gestion des flux de trésorerie dans tout le pays. Cependant, il est rapidement devenu évident qu’il n’était pas à la hauteur de la tâche.
Dès 2001, une équipe de développement a découvert « des centaines » de bugs dans le système. Un exemple remarquable était le « Bug Dalmellington », qui faisait geler l’écran lors de la confirmation des encaissements en espèces. Chaque fois que l’opérateur appuyait sur Entrée sur l’écran gelé, l’enregistrement se mettait à jour silencieusement, rendant le sous-maître responsable de toute divergence.
Ce qui rend cette saga encore plus stupéfiante est le temps qu’il a fallu pour que la vérité soit reconnue par le système politique. Les journalistes ont rapporté avec diligence les victimes de Horizon depuis 2009, avec plus de 350 articles publiés sur cette question. Cependant, ce n’est qu’avec la diffusion de M. Bates contre la Poste sur ITV que le problème a suscité une attention significative. Les protestations du public après la diffusion ont incité le Premier Ministre à s’adresser à la Chambre des communes et à promettre des actions.
La leçon fondamentale à tirer de cet échec catastrophique est le danger de faire aveuglément confiance à la technologie. La Poste a cru fermement en un système logiciel traditionnel qui présentait des lacunes flagrantes, des lacunes que tout enquêteur compétent aurait pu identifier. Alors que nous avançons, nous sommes confrontés à déployer un nouveau type de technologie – l’intelligence artificielle (IA), qui est totalement opaque et inexplicable. Les défis de rectifier les injustices découlant des décisions et actions erronées de l’IA seront sans aucun doute beaucoup plus complexes. Alors que Horizon avait du mal avec la comptabilité, il faut voir pour le croire les fantaisies auxquelles les IA peuvent se livrer.
Il est crucial d’adopter une attitude critique face aux avancées technologiques et de ne pas répéter les erreurs de la foi aveugle. Le fiasco Horizon devrait servir d’avertissement, rappelant aux organisations l’importance d’une enquête approfondie et d’un jugement éclairé lors de l’adoption de nouvelles technologies. Ce n’est qu’alors que nous pourrons atténuer les risques d’injustices futures.
The source of the article is from the blog meltyfan.es