אמון הציבור בממשלה המבוססת על AI נמצא בסכנה
תקרית אחרונה הקשורה לצ'אטבוט המופעל על ידי ממשלת ניו יורק הדביקה חששות בנוגע להפקת מוקדמת של בינה מלאכותית במגזר הציבורי. הצ'אטבוט, שהתכוון להציע ייעוץ אמין לבעלי עסקים קטנים, במקום זאת נתן ייעוץ בלתי נכון עם השלכות משפטיות חמורות.
בינה מלאכותית כיועץ ממשלתי בלתי אמין
מפעיל מאז אוקטובר כרכיב בתוכנית הפעולה ליצירתיות מלאכותית מתקדמת בעיר, הופקד על ידי עיתונאים מחקריים שהצ'אטבוט טעה והמליץ, בין שגיאות אחרות, כי מעסיקים רשאים לטעות טיפים של עובדים. המידע הוא לא רק נגד חוקים מקומיים חזקים, אלא גם סופר לבעלי עסקים ולעובדים כאחד ליצירת אפשרות של גניבת שכר וסעיפים משפטיים עתידיים.
השלכות של פריסת AI ממהירה
הרעיון של "הרפיון מהר ושבירת דברים" במשימת אימוץ טכנולוגיה, למרות שנוטה בפופולריות של חברות נעשות, הוכיח שאינו מתאים לתפקיד של הממשלה במתן שירות ציבורי זהיר ואחראי. כאשר מדובר בכישלונות בטכנולוגיה האלה, זה אינו מסתכם בתיקון באגים; זה מדובר בעלות וסיכון בלתי הגיוניים לאזרחים ובמחלוקת פוטנציאלית של מערכות משפטיות שמיועדות להגן עליהם. המקרה עם חברת התעופה Air Canada, ששוחד לקוח בשל מידע מטעה מצ'אטבוט בינה מלאכותית, ממחיש את הצמיחה האפשרית לאילוצי משפטיים לאורגנים מממשלתיים נותנים הכוונה להצהרות שגויות דרך ביניים של AI.
הדרישה לקלטת הציבור ולבחינה קפדנית של ממשלת AI
כאשר ממשלות מצפות לשפר טכנולוגיה לתהליכי הפעולה שלהן, חשוב שמשוקלת המשוב הציבורי והופעלת בחינה מעמיקה של הכלים אלו לפני הפעלתם. חשיבה זו היא קריטית לא רק להבטיח שהשירותים הממשלתיים נשפרים, אלא גם לשמירה על אמון הציבור ומיצוי פוטנציאל המסגרת החוקית והתקנותית שנפקדת לממשלה לקיום.
הבנת חוסרי הישראות במגזר הציבורי של AI
AI במגזר הציבורי, כמו הצ'אטבוט ניו יורק התקל באונסים בעקרונות במדיניות ושפה שאינם כה רחוקים בקרביות במגזר הפרטי. מערכות AI דורשות כמויות עצומות של נתונים ללמידה, ונתוני המגזר הציבורי יכולים להיות מפוצצים וסילואיים, בעיות אלו מורגשות את תהליך הלמידה של AI. בנוסף, שיקולי היעדריות והשקיפות חיוניים בממשלה, אך מערכות AI עשויות להתמודד עם קושי להיות שקופות לגבי הדרך שבה הן מגיעות למסקנות, מה שיכול לגרום לבעיות אמון.
שאלות חשובות ותשובות
1. למה הפריסת AI במגזר הציבורי נקלעת יותר לחוסרי הישראות?
AI במגזר הציבורי נתקלת לעתים קשר לצורך להבין בצורה מלאה את ההנחיות המורכבות, ההשלכות המדיניותיות והמחשבות האתיות. ממשלות גם נתקלות ככל הנראה בתקנים ובמיתר בצדדות הפרה של שקיפות ואחריות.
2. כיצד חוסרי הישראות בAI משפיעים על אמון הציבור?
מידע מתיבות AI, בעיקר אלה המייצגים ישויות ממשלתיות, עשויים להוביל לנושאים משפטיים, אי אמון ציבורי ופוטנציאלית לפגיעה באנשים המסתמכים על היעץ עבור קבלת החלטות חשובות.
3. אילו ביקורות יכולות לשפר את האמינות של מערכות AI ממשלתיות?
בדיקה תהליכית, הפצה בהמשך, לולאות משוב נמשכות, ומנגנונים שקופים לקבלת החלטות של AI עשויים לשפר את האמינות של מערכות AI במגזר הציבור.
אתגרים ופולחנות מרכזיים
המקרה של צ'אטבוט ניו יורק מאיר לאור את האתגר של הקינון ביכולת AI עם הניתונים של עצמם של הייעוץ הממשלתי אלה. לוודא שהמערכות AI עברו ויש להן בסיסי מידע משפטי מעודכנים ויחד יכולות לפרש הנחיות מורכבות הן אתגרים ללא פשרה. כמו כן, יש פולחנות בנושא האם המגזר הציבורי צריך להשכיר את פיתוח AI לחברות פרטיות ללא פיקוח פנימי על אתיקה ויעילות של AI.
יתרונות וחסרונות של AI במגזר הציבורי
יתרונות:
– יעילות ונגישות: AI יכולה לעבד תחקורים במהירות ולספק שירותים 24/7 לציבור.
– ניתוח נתונים: AI עשוי לעזור לנתח סטים גדולים של נתונים לצורך יצירת מדיניות ושיפורי שירות ציבוריים.
– הוזלת עלויות: במהלך הזמן, מערכות AI עשויות להפחית עלויות הקשורות עם תהליכי עיבוד ידני והנהלה.
חסרונות:
– סיכוני לא מידע: כפי שהוצגה, AI עשוי לפשוט מידע בגילויים עם השלכות רציניות.
– חששים לפרטיות: מערכות AI עשויות לרחוץ דברי פרטיות ביחס למידע אישי, במיוחד אם הן דורשות מידע אישי כדי לספק ייעוץ.
– הבנה מורכבת של מדיניות: AI עשוי להתמודד בקושי עם פרטיות החוקים המקיפים והחוקים ששולטים במגזר הציבורי.
למידע נוסף בנוגע לשימוש והשפעת AI במגזר הציבורי, הקישור הבא עשוי לעזור: ארגון לשיתוף כלכלי ופיתוח (OECD). ה- OECD מספק מידע ונתונים על גישת הממשלה וההפקה של AI במדינות החברות, וכן ייעוצים והתקנות מומלצות.
[שבץ] https://www.youtube.com/embed/pGaVP9umfIw[/embed]