מצגת המחקר והפיתוח באוניברסיטת הטכניון בחידראבאד (IIIT-H) אירחה לאחרונה סדרת דיונים בהשתתפות מומחים שחקרו את היחס המורכב בין אלגוריתמים, אתיקה וממשל. כנס הפתיחה גרף תשומת ליבו של הציבור להיבט הגובר של "קבלת החלטות אלגוריתמיות" בשיטות הממשל והשפעתן על אוכלוסיית האזרחים.
לאור האירוע, אחת המחקרים שגררו תשומת לב רבה היה תכנית 'סמגרה וידיקה', שהוטמעה על ידי ממשלת תל אביב, והסתמכה על אלגוריתמים לקביעת זכאות והקצאת יתרונות לתוכניות רווחה שונות. דוגמה זו הדגישה את הצורך הדחוף בשיחה נרחבת יותר לגבי הבטיחות של פיתוח והטמעת מערכות המבוססות על אלגוריתמים בסקטור הציבורי.
כרישנה ראוי סריניבס, פרופסור משנה באוניברסיטת NALSAR למשפטים בחידראבאד ויועץ במערכת לחקר ומידע במדינות נמיים, הבהיר דבר חשוב. הוא הדגיש שרבות מתוכניות המבוססות על אלגוריתמים פותחות ללא מסגרת כוללת או הבנה ברורה של זכויות ואחריות הממשל. בנוסף, הוא הדגיש כי מערכות אלה גם חסרות בבדיקה כראוי בשלב הנסיון וכשלו להתייחס לתקלות פוטנציאליות.
בהקשר זה, תרגום של זכויות החוק המוסכמות לפתרונות טכנולוגיים הופך לאתגר משמעותי. סריניבס הדגיש את הצורך לוודא שאלגוריתמים לא מפרים על זכויות החוק במהלך שיפור הממשל, והתבטא בתמיכה בפיתוח של אלגוריתמים שמיועדים ומיושמים עם שקיפות ושוויון בדעתם, במקום כאחרונה.
תנוויר חסן איי קיי, מנכ"ל המרכז לאינטרנט וחברה בבנגלור, הביע חשש אף הוא מההטיות והשקיפות בקבלת ההחלטות האלגוריתמיות. הוא הדגיש כי הטיות לא באמת ישרים בצורה רציונלית אלא במקום משמשים כנקודת מחשבה מרכזית במהלך הפיתוח והיישום. חסאן אזהיר כי אלגוריתמים לא ייתפסו ככלי לחיזוק האי-שוויון או מניעת גישת האזרחים לזכויותיהם.
הפרופסור פ.ג'יי נריינן, מנהל הטכניון בחידראבאד, גם הביע חששים לגבי אלגוריתמים ומערכות AI שעלולים להשפיע שלילית על בחירות. עם ההסתמכות הגוברת על אלגוריתמים לעצב תהליכי קבלת ההחלטות, נחוץ לוודא שמערכות אלה מועצמות, שק Transpare לדרש וחופש מפשיטות.
בעוד קבלת ההחלטות האלגוריתמיות מאחזת פוטנציאל עצום לשיפור היעילות והזרימה החלקה בממשל, חיוני להגיע לאיזון בין הבחנות האתיות והיתרונות שהן מציעות. על ידי התמודדות עם הטיות, ומבטים על לאור מאפשרים לממשלות להשתמש בכוח האלגוריתמים באופן אחראי כדי ליצור חברות כלולות ושוות.
שאלות נפוצות
1. מהי קבלת ההחלטות האלגוריתמית?
קבלת ההחלטות האלגוריתמית מתייחסת לשימוש באלגוריתמים, או תהליכים שלב אחרי שלב, לקביעת בחירות והחלטות. היא משתמשת באוטמציה של תהליכי קבלת ההחלטות באמצעות מודלים מתמטיים או חישוביים.
2. מדוע קבלת ההחלטות האלגוריתמית בממשל היא דאגה?
קבלת ההחלטות האלגוריתמית בממשל מעלה דאגות לגבי שקיפות, טיות והפרת זכויות בסיסיות. התרגיל הנכון, חוסר מסגרות, וכישלון לטפל בתקלות עשויים להוביל לתוצאות לא צפויות או לאי-שוויונות.
3. איך ניתן לטפל בטיות בבחינת ההחלטות האלגוריתמיות?
טיפול בטיות בקבלת ההחלטות האלגוריתמית דורש גישה פרואקטיבית בתהליכי פיתוח והטמעה. זה כולל קריטריונים של צדק, בדיקה מלאה, והשתתפות שונה לזהות ולהקטין את הטיות הקיימות באלגוריתמים.
מקורות:
– מרכז לאינטרנט וחברה
– מערכת לחקר ומידע במדינות נמיים
The source of the article is from the blog portaldoriograndense.com