ניתוח אחרון שביצעה ממשלת NSW הביא לאור את השימוש המתרחב בכלי קבלת החלטות אוטומטיים (ADMs) ביחידות הציבור במקרה. הסקר חשף כי 275 ADMs מדהימים נמצאים בשימוש אך ספק אפשר שהמספר הזה גבוה יותר בזמן שהסקר היה רשתו ורק חלק קטן של יישוים השתתף.
החוסר במערכת דיווח חובה או רשומה ציבורית ל- ADMs גרם לדאגות בנוגע לשקיפות ואחריות. חיוני שאנשים שזכויותיהם ואינטרסיהם מושפעים על ידי ADMs יידעו על התפקיד שהכלים משמשים בתהליכי קבלת ההחלטות. לצערנו, ללא מנגנונים תקינים לדיווח וחשיפה, הדבר לא תמיד מתרחש.
בנוסף ל- ADMs שבודקים, נמצאו 702 ADMs פוטנציאליים נוספים דרך ביקורת על רשומות רכש ומידע ציבורי. זה מדגיש את הצורך בגישה קומפרטיבית ומרכזית למעקב ולניטור אחר שימוש הכלים הללו.
אחת הדאגות החשובות שהועלו בדו"ח היא המעטה של כניסה משפטית בשלב העיצוב של מערכות ה- ADM. פחות ממחצית מה- ADMs שנבדקו נעשתה בהן כל ייעוץ משפטי במהלך פיתוחן, דבר שעלול להעלות שאלות לגבי חוקיותן ודיוקן של מערכות אלה. חיוני שמומחים משפטיים ישתתפו בתהליך העיצוב כדי להבטיח שה- ADMs יקיימו את המסגרות המשפטיות ויחולו על מעקב שוטף לבעיות כגון דיוק וגזירות.
הדו"ח ניתן גם לניתוח נפיץ של שימוש ה- ADM לפי טכנולוגיה. עצים גורם ויישומים מתקדמים של למידת מכונה, כולל את סיווג הסובים וזיהוי אנשים ברשימות צפייה, היו בין הטכנולוגיות שהשתמשו בהן. הדו"ח העיר על הדגשה מוגדלת בעיבוד שפה טבעי, איסוף נתונים אוטומטי, מערכות ממליצות וכלים לאופטימיזציה.
ברור ש- ADMs הפכו לחלק בלתי נפרד מתהליכי קבלת ההחלטות ביחידות ומשרדי ממשלה שונים. עם זאת, חיוני שהשמירות המתאימות, כולל ייעוץ משפטי והערכת השפעה על הפרטיות, יוצגו כדי להבטיח כי השימוש בכלי אלה יהיה אתי ואחראי.
לסיכום, הגיעתם של למעלה מ- 275 ADMs בסקטור הציבורי של NSW גורמת לדאגות בנוגע לשקיפות, אחריות ולחסר השתתפות משפטית בשלב העיצוב. בהימוש ב- ADMs ממשיך לגדול, חיוני להציב מסגרות רגולטוריות ומנגנוני מעקב במקום כדי להבטיח שהשימוש בכלי אלה יהיה הוגן וחסר גזירות.
The source of the article is from the blog girabetim.com.br