یک نظرسنجی اخیر توسط دولت NSW روشنگری‌هایی درباره افزایش استفاده از ابزارهای تصمیم‌گیری خودکار (ADMs) در داخل نهادهای بخش عمومی ارائه داده است. این نظرسنجی نشان داد که 275 ADM فعلی در حال استفاده است، اما این تعداد احتمالاً بیشتر است زیرا نظرسنجی اختیاری بود و تنها یک کسر از نهادها شرکت کردند.
عدم وجود یک سیستم گزارشگیری اجباری یا ثبت عمومی برای ADMs، نگرانی‌هایی درباره شفافیت و پاسخگویی برانگیخته است. حیاتی است که افرادی که حقوق و منافع آن‌ها توسط ADMها تحت تأثیر قرار می‌گیرد، از نقش این ابزارها در فرایندهای تصمیم‌گیری باخبر شوند. متأسفانه، بدون مکانیزم‌های گزارش‌دهی و افشای مناسب، این همیشه اتفاق نمی‌افتد.
به‌علاوه، علاوه بر ADMهای مورد نظر، از طریق بررسی سوابق تهیه و اطلاعات عمومی، 702 ADM پتانسیلی دیگر شناسایی شده است. این نشان می‌دهد ضرورت یک رویکرد جامع و متمرکز برای پیگیری و نظارت بر استفاده از این ابزارها را برجسته می‌کند.
یکی از نگرانی‌های مهمی که در گزارش مطرح شده است، کمبود مشارکت حقوقی در مرحله طراحی سیستم‌های ADM است. کمتر از نیمی از ADMهای مورد نظر هیچ مشاوره حقوقی در طول توسعه آن‌ها نداشتند، که سوالاتی را درباره قانونمندی و دقت این سیستم‌ها مطرح می‌کند. حیاتی است که کارشناسان حقوقی در فرآیند طراحی شرکت کنند تا اطمینان حاصل شود ADMها با چارچوب‌های قانونی سازگار هستند و موضوع نظارت مستمر بر مشکلاتی نظیر دقت و تعصب مورد قرار گیرد.
گزارش همچنین تجزیه و تحلیلی از استفاده از ADM براساس فناوری‌ها را ارائه داد. درخت‌های تصمیم‌گیری و کاربردهای پیشرفته یادگیری ماشین، از جمله طبقه‌بندی زندانیان و شناسایی افراد در فهرستهای نگهبانی، به‌عنوان فناوری‌های استفاده‌شده بودند. گزارش همچنین به برجسته شدن تأکید بر پردازش زبان طبیعی، گردآوری داده‌های خودکار، سیستم‌های پیشنهاددهنده و ابزارهای بهینه‌سازی اشاره کرد.
واضح است که ADMها به یک بخش اساسی از فرآیندهای تصمیم‌گیری در بخش‌های مختلف دولتی و نهادها تبدیل شده‌اند. با این حال، حیاتی است که تضمینات مناسب از جمله مشاوره‌های قانونی و ارزیابی‌های تأثیر حریم خصوصی در نظر گرفته شوند تا استفاده اخلاقی و پاسخگویی از این ابزارها تضمین شود.
در پایان، حضور بیش از 275 ADM در بخش عمومی NSW نگرانی‌هایی درباره شفافیت، پاسخگویی و کمبود مشارکت قانونی در مرحله طراحی را برانگیخته است. با ادامه استفاده از ADMها، حیاتی است فریم‌ورک‌های تنظیمی مناسب و مکانیزم‌های نظارتی مورد نیاز را جهت استفاده منصفانه و بی‌طرفانه از این ابزارها به کار بگیریم.
سوالات متداول:
1. تمرکز نظرسنجی اخیر دولت NSW چه بود؟
نظرسنجی بر روی افزایش استفاده از ابزارهای تصمیم‌گیری خودکار (ADMs) در داخل نهادهای بخش عمومی تمرکز داشت.
2. چند ADM در طول نظرسنجی شناسایی شدند؟
نظرسنجی 275 ADM در حال استفاده را شناسایی کرد، اما احتمالاً تعداد واقعی بیشتر است زیرا نظرسنجی اختیاری بود و تمام نهادها شرکت نکردند.
3. چه نگرانی‌هایی درباره عدم وجود سیستم گزارش‌دهی برای ADMها مطرح شده است؟
عدم وجود یک سیستم گزارش‌دهی اجباری یا ثبت عمومی برای ADMها نگرانی‌هایی درباره شفافیت و پاسخگویی برانگیخته است.
4. چرا اهمیت دارد افراد از نقش ADMها در فرایندهای تصمیم‌گیری آگاه شوند؟
اهمیت دارد که افرادی که حقوق و منافع آن‌ها توسط ADMها تحت تأثیر قرار می‌گیرد، از نقش این ابزارها در فرایندهای تصمیم‌گیری برای مقاصد شفافیت و پاسخگویی آگاه شوند.
5. چطور ADMهای پتانسیلی اضافی شناسایی شدند؟
702 ADM پتانسیلی اضافی از طریق بررسی سوابق تهیه و اطلاعات عمومی شناسایی شدند.
6. یکی از نگرانی‌های مهمی که در گزارش مطرح شده است چیست؟
یکی از نگرانی‌های مهمی که در گزارش مطرح شده است، کمبود مشارکت حقوقی در مرحله طراحی سیستم‌های ADM است که کمتر از نیمی از ADMهای مورد نظر هیچ مشاوره حقوقی در طول توسعه آن‌ها نداشته‌اند.
7. چه فناوری‌هایی در گزارش برای استفاده ADM برجسته شدند؟
گزارش به استفاده‌بردن از درخت‌های تصمیم‌گیری، کاربردهای پیشرفته یادگیری ماشین، پردازش زبان طبیعی، گردآوری داده‌های خودکار، سیستم‌های پیشنهاددهنده و ابزارهای بهینه‌سازی اشاره کرد.
8. چه باید برای استفاده اخلاقی و مسئولانه از ADMها تضمین شود؟
تضمینات مناسب از جمله مشاوره‌های قانونی و ارزیابی‌های تأثیر حریم خصوصی باید برای استفاده اخلاقی و مسئولانه از ADMها در نظر گرفته شود.
The source of the article is from the blog coletivometranca.com.br