Nový prírastok automatizovaných rozhodovacích nástrojov (ARN) v verejnom sektore prináša obavy. Nedávna štúdia realizovaná vládou Nového Južného Walesu osvietila rastúce využitie automatizovaných rozhodovacích nástrojov (ARN) v entitách verejného sektora. Štúdia odhalila, že momentálne je v prevádzke ohromujúcich 275 ARN, ale táto čísla s najväčšou pravdepodobnosťou sú ešte vyššie, keďže štúdia bola dobrovoľná a len zlomok entít sa zapojil.
Chýbajúci povinný systém hlásenia alebo verejný register pre ARN vyvolal obavy o transparentnosť a zodpovednosť. Je nevyhnutné, aby jednotlivci, ktorých práva a záujmy sú ovplyvnené ARN, boli informovaní o úlohe, ktorú tieto nástroje zohrávajú v rozhodovacích procesoch. Bohužiaľ, bez adekvátnych mechanizmov hlásenia a zverejnenia to nie je vždy realizované.
Okrem skúmaných ARN bolo prostredníctvom preskúmania záznamov o obstarávaní a verejných informáciách identifikovaných ďalších 702 potenciálnych ARN. To poukazuje na potrebu komplexného a centralizovaného prístupu na sledovanie a monitorovanie využitia týchto nástrojov.
Jedným z významných problémov, ktorý vyplynul zo správy, je obmedzený právny vstup v návrhovej fáze ARN systémov. Menej než polovica skúmaných ARN mala akúkoľvek právnu konzultáciu počas ich vývoja, čo otvára otázky o legalite a presnosti týchto systémov. Je nevyhnutné, aby právni odborníci boli zapojení do návrhového procesu, aby sa zabezpečilo, že ARN splnia právne rámce a sú predmetom neustáleho monitorovania z hľadiska presnosti a skreslenia.
Správa tiež analyzovala rozloženie využitia ARN podľa technológie. Strome rozhodnutí a pokročilé aplikácie strojového učenia, ako je klasifikácia väzňov a detekcia ľudí na zoznamoch hľadaných osôb, boli medzi používanými technológiami. Správa taktiež zdôraznila rastúci dôraz na spracovanie prirodzeného jazyka, automatizované zhromažďovanie údajov, systémy odporúčania a optimalizačné nástroje.
Je zrejmé, že ARN sa stali neoddeliteľnou súčasťou rozhodovacích procesov v rôznych vládnych oddeleniach a agentúrach. Je však nevyhnutné, aby boli zavedené primerané zábrany, vrátane právnych konzultácií a hodnotenia vplyvu na ochranu súkromia, aby sa zabezpečila etická a zodpovedná pomoc týchto nástrojov.
Na záver, prítomnosť viac ako 275 ARN v verejnom sektore Nového Južného Walesu vyvoláva obavy o transparentnosť, zodpovednosť a nedostatku právneho vstupu počas návrhovej fázy. Vzhľadom na rastúce využitie ARN je nevyhnutné zaviesť primerané regulačné rámce a monitorovacie mechanizmy, aby sa zabezpečilo spravodlivé a nezaujaté využitie týchto nástrojov.
Časté otázky
Aký je zameranie nedávnej štúdie realizovanej vládou Nového Južného Walesu?
Štúdia sa zaoberala rastúcim využívaním automatizovaných rozhodovacích nástrojov (ARN) v entitách verejného sektora.
Koľko ARN bolo odhalených štúdiou?
Štúdia odhalila 275 ARN momentálne využívaných, ale reálny počet je pravdepodobne vyšší, keďže štúdia bola dobrovoľná a nie všetky entity sa zapojili.
Aké obavy boli vyjadrené ohľadom nedostatku systému hlásenia pre ARN?
Nedostatok povinného systému hlásenia alebo verejného registra pre ARN vyvolal obavy o transparentnosť a zodpovednosť.
Prečo je dôležité, aby boli jednotlivci informovaní o úlohe ARN v rozhodovacích procesoch?
Je dôležité, aby boli jednotlivci, ktorých práva a záujmy ovplyvňujú ARN, informovaní o úlohe, ktorú tieto nástroje zohrávajú v rozhodovacích procesoch z dôvodov transparentnosti a zodpovednosti.
Ako boli identifikované ďalšie potenciálne ARN?
Ďalších 702 potenciálnych ARN bolo identifikovaných prostredníctvom preskúmania záznamov o obstarávaní a verejných informáciách.
Aký je jeden z významných problémov vyjadrených v správe?
Jeden z významných problémov, ktorý vyplynul zo správy, je obmedzený právny vstup v návrhovej fáze ARN systémov, pričom menej než polovica skúmaných ARN mala akúkoľvek právnu konzultáciu počas ich vývoja.
Aké technológie boli zdôraznené vo správe týkajúcej sa využitia ARN?
Správa zdôraznila používanie stromov rozhodnutí, pokročilé aplikácie strojového učenia, spracovanie prirodzeného jazyka, automatizované zhromažďovanie údajov, systémy odporúčania a optimalizačné nástroje.
Čo je potrebné zabezpečiť pre etické a zodpovedné využívanie ARN?
Je nevyhnutné zaviesť primerané zábrany, vrátane právnych konzultácií a hodnotení vplyvu na ochranu súkromia, aby sa zabezpečilo etické a zodpovedné využívanie ARN.
Definície
Automatizované rozhodovacie nástroje (ARN): Odkazuje na počítačové systémy alebo softvér, ktoré sa používajú na poskytovanie podpory pri rozhodovaní alebo na automatické rozhodovanie, typicky založené na algoritmoch.
Odporúčené súvisiace odkazy:
1. Oficiálna webová stránka vlády Nového Južného Walesu
2. Video
The source of the article is from the blog dk1250.com