Nedávný průzkum provedený vládou NSW přinesl nové informace o rostoucím používání automatizovaných nástrojů pro rozhodování (ADMs) ve veřejném sektoru. Průzkum odhalil ohromujících 275 aktivních ADMs, ale tento počet je pravděpodobně ještě vyšší, jelikož průzkum byl dobrovolný a pouze zlomek subjektů se zapojil.
Chybějící povinný systém hlášení nebo veřejný registr pro ADMs vyvolává obavy o transparentnost a odpovědnost. Je naprosto klíčové, aby jednotlivci, jejichž práva a zájmy jsou ovlivněny ADMs, byli informováni o úloze, kterou tyto nástroje hrají v procesech rozhodování. Bohužel bez řádných mechanismů pro hlášení a zveřejňování to ne vždy probíhá.
Kromě zmapovaných ADMs bylo identifikováno dalších 702 potenciálních ADMs prostřednictvím analýzy záznamů z veřejných zakázek a veřejných informací. To zdůrazňuje potřebu komplexního a centralizovaného přístupu k sledování a monitorování používání těchto nástrojů.
Jedním z podstatných zjištění zprávy je omezený právní vstup v návrhové fázi systémů ADM. Méně než polovina zmapovaných ADMs měla během svého vývoje konzultace s právními experty, což vyvolává otázky ohledně právní zákonnosti a přesnosti těchto systémů. Je klíčové, aby se právní odborníci podíleli na návrhovém procesu, aby bylo zajištěno, že ADMs splňují právní rámce a jsou podléhající pravidelnému monitorování ohledně problémů jako je přesnost a zkreslení.
Ve zprávě byla také analyzována distribuce použití ADM podle technologie. Rozhodovací stromy a pokročilé aplikace strojového učení, jako je například klasifikace vězňů a detekce osob ve sledovaných seznamech, patří mezi využívané technologie. Zpráva také upozornila na rostoucí důraz kladený na zpracování přirozeného jazyka, automatizované sběry dat, systémy doporučování a optimalizační nástroje.
Je zřejmé, že ADMs se staly nedílnou součástí procesů rozhodování v různých odděleních a agenturách vlády. Nicméně je důležité, aby byly v místě vhodné opatření, včetně právních konzultací a hodnocení dopadu na ochranu osobních údajů, aby bylo zajištěno etické a zodpovědné používání těchto nástrojů.
Závěrem, přítomnost více než 275 ADMs v nsw veřejném sektoru vyvolává obavy o transparentnost, odpovědnost a nedostatek právního vstupu během návrhové fáze. Jak se používání ADMs nadále šíří, je klíčové, aby byly stanoveny vhodné regulační rámce a monitorovací mechanismy pro zajištění spravedlivého a nepředpojatého využití těchto nástrojů.
The source of the article is from the blog zaman.co.at