En nylig undersøgelse gennemført af den sydlige waliske regering har kastet lys over den stigende brug af automatiske beslutningsværktøjer (ADMer) inden for offentlige sektorenheder. Undersøgelsen afslørede, at der i øjeblikket er i brug hele 275 ADMer, men dette tal er sandsynligvis endnu højere, da undersøgelsen var frivillig, og kun en brøkdel af enhederne deltog.
Manglen på et obligatorisk rapporteringssystem eller offentlig register for ADMer har rejst bekymringer om gennemsigtighed og ansvarlighed. Det er afgørende, at personer, hvis rettigheder og interesser påvirkes af ADMer, informeres om den rolle, disse værktøjer spiller i beslutningsprocesserne. Desværre sker dette ikke altid uden ordentlige rapporterings- og oplysningsmekanismer.
Ud over de undersøgte ADMer blev der identificeret yderligere 702 potentielle ADMer gennem gennemgang af indkøbsregistre og offentlig information. Dette understreger behovet for en omfattende og centraliseret tilgang til at spore og overvåge brugen af disse værktøjer.
En af de betydelige bekymringer, der blev rejst i rapporten, er det begrænsede juridiske input i designfasen af ADM-systemer. Mindre end halvdelen af de undersøgte ADMer fik nogen form for juridisk rådgivning under deres udvikling, hvilket stiller spørgsmål ved lovligheden og nøjagtigheden af disse systemer. Det er afgørende, at juridiske eksperter er involveret i designprocessen for at sikre, at ADMer overholder juridiske rammer og er underlagt løbende overvågning med hensyn til problemstillinger som nøjagtighed og bias.
Rapporten analyserede også opdelingen af ADM-brug efter teknologi. Beslutningstræer og avancerede anvendelser af maskinlæring, såsom klassificering af indsatte og detektering af personer på overvågningslister, var blandt de anvendte teknologier. Rapporten fremhævede også en stigende vægt på naturlig sprogbehandling, automatisk dataindsamling, anbefalingssystemer og optimeringsværktøjer.
Det står klart, at ADMer er blevet en integreret del af beslutningsprocesserne på tværs af forskellige regeringsafdelinger og -agenturer. Det er imidlertid afgørende, at der er ordentlige sikkerhedsforanstaltninger på plads, herunder juridiske konsultationer og vurderinger af privatlivspåvirkning, for at sikre en etisk og ansvarlig brug af disse værktøjer.
Samlet set vækker tilstedeværelsen af over 275 ADMer i den offentlige sektor i den sydlige del af Wales bekymringer vedrørende gennemsigtighed, ansvarlighed og manglen på juridisk input under designfasen. Da brugen af ADMer fortsætter med at vokse, er det afgørende, at passende reguleringsrammer og overvågningsmekanismer implementeres for at sikre en retfærdig og upartisk brug af disse værktøjer.
Ofte stillede spørgsmål:
Hvad er fokus for den seneste undersøgelse, der blev foretaget af den sydlige del af Wales?
Undersøgelsen fokuserede på den stigende brug af automatiske beslutningsværktøjer (ADMer) inden for offentlige sektorenheder.
Hvor mange ADMer blev afsløret i undersøgelsen?
Undersøgelsen afslørede 275 ADMer, der i øjeblikket er i brug, men det er sandsynligt, at det faktiske antal er højere, da undersøgelsen var frivillig, og ikke alle enheder deltog.
Hvilke bekymringer er rejst vedrørende manglen på et rapporteringssystem for ADMer?
Manglen på et obligatorisk rapporteringssystem eller offentligt register for ADMer har rejst bekymringer om gennemsigtighed og ansvarlighed.
Hvorfor er det vigtigt, at personer informeres om ADMers rolle i beslutningsprocesserne?
Det er vigtigt, at personer, hvis rettigheder og interesser påvirkes af ADMer, informeres om den rolle, disse værktøjer spiller i beslutningsprocesserne af hensyn til gennemsigtighed og ansvarlighed.
Hvordan blev yderligere potentielle ADMer identificeret?
702 potentielle ADMer blev identificeret gennem gennemgang af indkøbsregistre og offentlig information.
Hvad er en af de betydelige bekymringer, der blev rejst i rapporten?
En af de betydelige bekymringer, der blev rejst i rapporten, er det begrænsede juridiske input i designfasen af ADM-systemer, idet mindre end halvdelen af de undersøgte ADMer havde haft nogen form for juridisk konsultation under deres udvikling.
Hvilke teknologier blev fremhævet i rapporten vedrørende ADM-brug?
Rapporten fremhævede brugen af beslutningstræer, avancerede anvendelser af maskinlæring, naturlig sprogbehandling, automatisk dataindsamling, anbefalingssystemer og optimeringsværktøjer.
Hvad skal sikres for den etiske og ansvarlige brug af ADMer?
Ordentlige sikkerhedsforanstaltninger, herunder juridiske konsultationer og vurderinger af privatlivspåvirkning, skal være på plads for at sikre den etiske og ansvarlige brug af ADMer.
The source of the article is from the blog scimag.news