Viimeaikainen NSW:n hallituksen tekemä kysely on tuonut esille automaattipäätöksentekotyökalujen (ADMit) lisääntyneen käytön julkisella sektorilla. Kysely paljasti hämmästyttävät 275 ADMiä nykyisin käytössä, mutta tämä luku on luultavasti vielä suurempi, koska kysely oli vapaaehtoinen ja vain osa organisaatioista osallistui.
Velvollisen raportointijärjestelmän tai julkisen rekisterin puuttuminen ADMeistä on herättänyt huolia läpinäkyvyyden ja vastuullisuuden suhteen. On tärkeää, että henkilöt, joiden oikeudet ja edut vaikuttavat ADMeihin, ovat tietoisia näiden työkalujen roolista päätöksentekoprosesseissa. Valitettavasti ilman asianmukaisia raportointi- ja julkistamismekanismeja tämä ei aina toteudu.
Lisäksi kyselyyn tuotiin esiin 702 mahdollista ADMiä hankintatietojen ja julkisen tiedon tarkastelun kautta. Tämä korostaa tarvetta kattavalle ja keskitetylle lähestymistavalle seurata ja valvoa näiden työkalujen käyttöä.
Yksi raportissa esille tuotu merkittävä huolenaihe on rajoitettu oikeudellinen osallistuminen ADM-järjestelmien suunnitteluvaiheessa. Alle puolet kyselyyn osallistuneista ADMeistä oli saanut minkäänlaista oikeudellista konsultaatiota kehitysvaiheessa, mikä herättää kysymyksiä näiden järjestelmien laillisuudesta ja tarkkuudesta. On tärkeää, että oikeudelliset asiantuntijat osallistuvat suunnitteluprosessiin varmistaakseen, että ADMit noudattavat oikeudellisia kehyksiä ja ovat jatkuvan seurannan kohteena tarkkuus- ja puolueettomuusongelmien varalta.
Raportissa analysoitiin myös ADM-käytön jakautumista teknologioiden mukaan. Päätöspuut ja edistyneet koneoppimisen sovellukset, kuten vankien luokittelu ja henkilöiden havaitseminen tarkkailulistalla, olivat yksiä käytetyistä teknologioista. Raportti korosti myös luonnollisen kielen käsittelyn, automaattisen tiedonkeruun, suosittelujärjestelmien ja optimointityökalujen kasvavaa painotusta.
On selvää, että ADMit ovat tulleet olennaiseksi osaksi päätöksentekoprosesseja eri hallintovirastoissa. Kuitenkin on välttämätöntä, että asianmukaiset varotoimet, kuten oikeudelliset konsultaatiot ja yksityisyyden vaikutusten arvioinnit, ovat käytössä varmistaakseen näiden työkalujen eettisen ja vastuullisen käytön.
Yhteenvetona voidaan todeta, että yli 275 ADMin läsnäolo NSW:n julkisella sektorilla herättää huolia läpinäkyvyyden, vastuullisuuden ja oikeudellisen osallistumisen puutteesta suunnitteluvaiheessa. ADMien käytön jatkaessa kasvuaan on ratkaisevan tärkeää, että asianmukaiset sääntelykehykset ja valvontamekanismit otetaan käyttöön varmistaakseen näiden työkalujen reilun ja puolueettoman käytön.
UKK-osio:
The source of the article is from the blog girabetim.com.br