Μια πρόσφατη έρευνα που πραγματοποίησε η κυβέρνηση της Νέας Νότιας Ουαλίας έφερε στο φως την αυξανόμενη χρήση εργαλείων αυτοματοποιημένης λήψης αποφάσεων (ADMs) στους δημόσιους φορείς. Η έρευνα αποκάλυψε ότι χρησιμοποιούνται επί του παρόντος 275 ADMs, αλλά αυτός ο αριθμός είναι πιθανό να είναι ακόμη υψηλότερος καθώς η έρευνα ήταν εθελοντική και μόνο μια μικρή μερίδα φορέων συμμετείχε.
Η έλλειψη υποχρεωτικού συστήματος αναφοράς ή δημόσιας καταγραφής για τα ADMs έχει προκαλέσει ανησυχίες σχετικά με τη διαφάνεια και την ευθύνη. Είναι κρίσιμο να ενημερώνονται οι άτομα των οποίων τα δικαιώματα και τα συμφέροντα επηρεάζονται από τα ADMs για τον ρόλο που παίζουν αυτά τα εργαλεία στις διαδικασίες λήψης αποφάσεων. Δυστυχώς, χωρίς κατάλληλους μηχανισμούς αναφοράς και διαφάνειας, αυτό δεν συμβαίνει πάντα.
Εκτός από τα ADMs που εξετάστηκαν, εντοπίστηκαν επιπλέον 702 πιθανά ADMs μέσω ελέγχου των αρχείων προμηθειών και δημόσιων πληροφοριών. Αυτό υπογραμμίζει την ανάγκη για μια συνεκτική και κεντρική προσέγγιση για την καταγραφή και την παρακολούθηση της χρήσης αυτών των εργαλείων.
Ένας από τους σημαντικούς προβληματισμούς που τίθενται στην έκθεση είναι η περιορισμένη νομική είσοδος στο στάδιο σχεδιασμού των συστημάτων ADM. Λιγότερο από το μισό των εξεταζόμενων ADMs είχαν κάποια νομική συμβουλή κατά την ανάπτυξή τους, γεγονός που θέτει ερωτήματα σχετικά με τη νομιμότητα και την ακρίβεια αυτών των συστημάτων. Είναι ζωτικής σημασίας οι νομικοί ειδικοί να συμμετέχουν στη διαδικασία σχεδιασμού για να εξασφαλίσουν ότι τα ADMs συμμορφώνονται με τους νομικούς πλαισίους και υπόκεινται σε συνεχή παρακολούθηση για θέματα όπως ακρίβεια και προκατάληψη.
Η έκθεση ανέλυσε επίσης τον διαχωρισμό της χρήσης ADM ανά τεχνολογία. Οι δέντρα αποφάσεων και οι προηγμένες εφαρμογές μηχανικής μάθησης, όπως η ταξινόμηση κρατουμένων και η ανίχνευση ατόμων σε λίστες ελέγχου, ήταν μεταξύ των τεχνολογιών που χρησιμοποιήθηκαν. Η έκθεση επίσης κατέγραψε μια αυξανόμενη έμφαση στην επεξεργασία φυσικής γλώσσας, την αυτόματη συγκέντρωση δεδομένων, τα συστήματα προτάσεων και τα εργαλεία βελτιστοποίησης.
Είναι προφανές ότι τα ADM έχουν γίνει ουσιώδης μέρος των διαδικασιών λήψης αποφάσεων σε διάφορα τμήματα και φορείς της κυβέρνησης. Ωστόσο, είναι ουσιώδες να υπάρχουν κατάλληλα προστατευτικά μέτρα, συμπεριλαμβανομένων νομικών διαβουλεύσεων και αξιολογήσεων επιπτώσεων στην ιδιωτικότητα, προκειμένου να εξασφαλιστεί η ηθική και υπεύθυνη χρήση αυτών των εργαλείων.
Συμπέρασμα: Η παρουσία πάνω από 275 ADMs στον δημόσιο τομέα της Νέας Νότιας Ουαλίας εγείρει ανησυχίες σχετικά με τη διαφάνεια, την ευθύνη και την έλλειψη νομικής εισόδου κατά το στάδιο σχεδιασμού. Καθώς η χρήση των ADM συνεχίζει να αυξάνεται, είναι ουσιώδες να θεσπιστούν κατάλληλα νομικά πλαίσια και μηχανισμοί παρακολούθησης για να διασφαλιστεί η δίκαιη και ανεξάρτητη χρήση αυτών των εργαλείων.
The source of the article is from the blog lisboatv.pt