Un reciente sondeo realizado por el gobierno de Nueva Gales del Sur ha arrojado luz sobre el creciente uso de herramientas de toma de decisiones automatizadas (ADMs) dentro de entidades del sector público. El sondeo descubrió un asombroso total de 275 ADMs actualmente en uso, pero es probable que esta cifra sea aún mayor, ya que la participación en el sondeo era voluntaria y solo una fracción de las entidades participó.
La falta de un sistema obligatorio de informes o un registro público para los ADMs ha suscitado preocupaciones sobre transparencia y rendición de cuentas. Es crucial que las personas cuyos derechos e intereses se ven afectados por los ADMs estén informadas sobre el papel que juegan estas herramientas en los procesos de toma de decisiones. Desafortunadamente, sin mecanismos adecuados de informes y divulgación, esto no siempre sucede.
Además de los ADMs relevados en el sondeo, se identificaron 702 posibles ADMs adicionales a través de una revisión de registros de adquisiciones e información pública. Esto destaca la necesidad de un enfoque integral y centralizado para rastrear y monitorear el uso de estas herramientas.
Una de las preocupaciones significativas planteadas en el informe es la escasa participación legal en la etapa de diseño de los sistemas de ADM. Menos de la mitad de los ADMs relevados contaron con alguna consulta legal durante su desarrollo, lo que plantea interrogantes sobre la legalidad y precisión de estos sistemas. Es crucial que expertos legales estén involucrados en el proceso de diseño para asegurar que los ADMs cumplan con los marcos legales y estén sujetos a un monitoreo continuo para cuestiones como la precisión y el sesgo.
El informe también analizó la distribución del uso de ADMs por tecnología. Los árboles de decisión y las aplicaciones avanzadas de aprendizaje automático, como la clasificación de reclusos y la detección de personas en listas de vigilancia, se encontraban entre las tecnologías utilizadas. El informe también señaló un énfasis creciente en el procesamiento del lenguaje natural, la recopilación automatizada de datos, sistemas de recomendación y herramientas de optimización.
Es evidente que los ADMs se han convertido en una parte integral de los procesos de toma de decisiones en varios departamentos y agencias gubernamentales. Sin embargo, es esencial que se implementen salvaguardias adecuadas, incluidas consultas legales y evaluaciones de impacto en la privacidad, para garantizar el uso ético y responsable de estas herramientas.
En conclusión, la presencia de más de 275 ADMs en el sector público de Nueva Gales del Sur plantea preocupaciones sobre transparencia, rendición de cuentas y la falta de participación legal durante la etapa de diseño. A medida que el uso de ADMs continúa creciendo, es crucial que se establezcan marcos regulatorios apropiados y mecanismos de monitoreo para asegurar el uso justo e imparcial de estas herramientas.
The source of the article is from the blog radiohotmusic.it