In wat alleen kan worden omschreven als een van de grootste gerechtelijke dwalingen in de geschiedenis van ons land, werden meer dan 900 subpostmeesters genadeloos vervolgd voor diefstal, valse boekhouding en fraude gedurende een periode van 16 jaar. Het Postkantoor, dat de brutaliteit had om deze onschuldige individuen te beschuldigen, zag handig over het hoofd dat de tekorten in hun filialen het directe gevolg waren van bugs in de boekhoudsoftware die ze hadden opgelegd. Rishi Sunak, helaas verstoken van verbeeldingskracht, leek de omvang van deze tragedie niet te begrijpen.
De Amerikaanse mariniers hebben een passende term voor het Horizon fiasco: een “clusterfuck.” Een totale mislukking, geplaagd door talloze fouten en problemen die tegelijkertijd optraden. Horizon, een uitgestrekt en met bugs besmet IT-aanschafssysteem, was het geesteskind van een gebrekkig en clueless proces waar de Britse staat al tientallen jaren aan verslaafd was. Gekocht van Fujitsu, een afsplitsing van ICL, had het systeem tot doel het verouderde op papier gebaseerde boekhoudsysteem in postkantoren te vervangen. Echter, een haastige uitrol en ontoereikende opleiding voor niet-technische subpostmeesters leidden tot de ontdekking van bugs en tekortkomingen in het systeem.
Ondanks deze schrijnende problemen hield het management van het Postkantoor volhardend vast aan hun geloof in de technologie en weigerde de tekortkomingen ervan te erkennen. Subpostmeesters betaalden de prijs met hun geruïneerde levens en sommigen namen zelfs tragisch genoeg hun eigen leven. Het Horizon-systeem was bedoeld als een elektronisch verkooppuntsysteem, dat de cashflowbeheer in het hele land zou revolutioneren. Maar al snel werd duidelijk dat het hier niet toe in staat was.
Al in 2001 ontdekte een ontwikkelingsteam “honderden” bugs in het systeem. Een opmerkelijk voorbeeld was de “Dalmellington Bug”, die ervoor zorgde dat het scherm bevroor bij het bevestigen van ontvangst van contant geld. Telkens wanneer de operator op het bevroren scherm op enter drukte, zou het record stilzwijgend worden bijgewerkt, waardoor de subpostmeester uiteindelijk verantwoordelijk werd gehouden voor eventuele verschillen.
Wat dit hele saga nog verbazingwekkender maakt, is de tijd die het heeft geduurd voordat de waarheid erkend werd door het politieke systeem. Journalisten hebben sinds 2009 nauwgezet verslag gedaan van de slachtoffers van Horizon, met meer dan 350 verhalen die erover zijn gepubliceerd. Echter, pas bij de uitzending van Mr. Bates vs the Post Office op ITV kreeg het probleem veel aandacht. Het publieke protest na de uitzending dwong de premier om het parlement toe te spreken en actie te beloven.
De belangrijkste les die we kunnen leren uit deze catastrofale mislukking is de gevaren van blind vertrouwen in technologie. Het Postkantoor geloofde volledig in een traditioneel softwaresysteem dat ernstige tekortkomingen had, tekortkomingen die elke competente onderzoeker had kunnen identificeren. Terwijl we vooruitgaan, worden we nu geconfronteerd met de implementatie van een nieuwe vorm van technologie – kunstmatige intelligentie (AI) – die volledig ondoorzichtig en onverklaarbaar is. De uitdagingen van het herstellen van de onrechtvaardigheden voortkomend uit de foutieve beslissingen en acties van AI zullen ongetwijfeld veel complexer zijn. Terwijl Horizon worstelde met de boekhouding, moeten de vluchten van fantasieën waar AIs aan kunnen beginnen om te geloven zijn.
Het is cruciaal dat we technologische vooruitgang met een kritisch oog benaderen en de fouten van blind vertrouwen niet herhalen. Het Horizon fiasco moet dienen als een waarschuwend verhaal, waarbij organisaties herinnerd worden aan het belang van grondig onderzoek en weloverwogen oordeel bij het adopteren van nieuwe technologieën. Alleen dan kunnen we het potentieel voor toekomstige onrechtvaardigheden verminderen.
The source of the article is from the blog macholevante.com