מפות טכנולוגיות AI לשילוב תעסוקתי מאובטח
המוביל לשינוי מהיר וצפוי להפוך לשער ראשי בתהליכי הפעולה של רוב החברות בקרוב. עם התקדמות זו בא הצורך בשיטת סטנדרטית לניהול סיכונים כדי להפחית את הסיכונים האפשריים של AI ולעודד את השימוש ההולם בו. כתובת הצורך בזה, הציע המכון הלאומי לתקנים וטכנולוגיה (NIST) בארצות הברית את "סדרת ניהול סיכוני AI" (AI RMF) בינואר 2023.
הסיוע הממשלתי של ארצות הברית ליישום אחראי של AI
ממשלת ארצות הברית פעילה בהנחה שחברות יאמצו את AI באופן אחראי. ב-2022, פורסמו המנחיות בכותרת "תוכנית-מסמך לזכויות AI" ששימשו כשטה לשימוש אתי של AI. עד אוקטובר 2023, הממשלה של ביידן המשיכה במעצר זה עם הנחיה נשיאית על בטיחות AI.
החשיבות של AI RMF של NIST
פותח כרכז חלק ממערכת ההנחה הממשלתית לשימוש אחראי בAI – הכוללת צדק, שקיפות וביטחון – AI RMF מספק הנחיות לאורך מעגל חיי ה AI. הוא מורכב מארבעה 'ליבות': לשלוט, למפע כוח. כאן ולהנהיג, כל אחת כוללת מספר קטגוריות ותת קטגוריות לממשל מדויק.
תת קטגורייה חשובה תחת 'לכלול', מזוהה כללול 1.6, דורשת את הפיתוח של מלאי מקרים שימוש. הפעולה של עיתון סריקה מקרים שימוש ב AI משמשת כצעד ראשון באבחון מפורט של הרפורמות הקשורות ב AI ובסיכוניהן, לכן הבטחת ניהול סיכונים יעיל והיישום בתקנים. פיתוח ראשי נמלצת על ידי פרוטוקולים נוספים כגון חוק הAI של האיחוד האירופי ומשרד ניהול ותקציב (OMB) בארה"ב.
המעשיות והשלכות העתידיות של AI RMF
למרות שלא קובע כסטנדרט רשמי או דרישה חובה, AI RMF מקובלת כנקודת התחלה אופטימלית למסגרת של AI. בידועה לידי בקרה הנמוכה של יישומים רחבי הנפץ – החל מסריקת קורות חיים ושינוי סיכון כחיוני, עמית המובילה ב-Credo AI. דרך תגובת ציבור והשתתפות אישכול, המסגרת נעשתה עשירה כמדריך תאורטי, עם הפוטנציאל להתפתח הפני דרך התמידי, במיוחד בין עסקים הפועלים עם ממשל הארצות הממונה בארה"ב.
שאלות מרכזיות ותשובות
1. מהו מטרת מסגרת ניהול סיכוני AI?
מסגרת AI RMF מיועדת לסייע לארגונים לנהל את הסיכונים הקשורים למימוש של מערכות AI. היא מספקת הנחיות לשמירה על סטנדרטים אתיים כגון צדק, שקיפות וביטחון לאורך מעגל החיים של AI.
2. האם AI RMF היא חובה לארגונים?
לא, המסגרת אינה סטנדרט פורמלי או דרישה חובתית אך מומלץ כנקודת התחלה לממשל AI.
3. איך AI RMF מתייחסת לתקנים בינלאומיים נוספים?
AI RMF מומלץ על ידי פרוטוקולים נוספים כמו חוק הAI של האיחוד האירופי ומשרד הניהול והתקציב (OMB) בארה"ב, שמציינים רמה של התאמה בינלאומית ובין המוסדות בדינון מעשי AI.
אתגוריות מפתח וסכסוכים
– אימוץ ושימוש: עידוד אימוץ נרחב של מסגרות שיתופיות יכול להיות קשה, במיוחד לציון מארגונים קטנים עם מקורות צניחה מוגבלים.
– איזון בין חדשנות לתקנות: למצוא את האיזון הנכון בין גידול חדשנות בAI ובין שמירה על שימוש אתי יכול להיות מורכב. שהפרט הדור בהרגולציה יכולה לעצור קידום טכנולוגי, ולהיות עולם לא אתי עשיי אפליקציה תחת אי.
– פרטיות הנתונים: AI נועד לסמוך על מאגרי נתונים ענקיים, שעשויים לכלול מידע רגיש. הגנת הנתונים האלה בזמן שהשימוש ב AI היא האתגר הטכני והאתי.
– השפלת העבודה: אחד הסכנות החברתיות הכי חשובות היא שAI יוכל לאוטומטי העבות, סיוע לגרים ומירעות כלכלית רחבה.
יתרונות וחסרונות
יתרונות:
– ניהול סיכונים משופר: AI RMF יכול לסייע לארגונים לזהות ולהקטין סיכונים פוטנציאליים, מוביל לישומים הר של AI.
– אמון הצרכן: שימוש אחראי ב AI כפי שמוצג על ידי המסגרת עשוי לעזור לבנית אמון ציבורי וצרכני.
– התאמת התקציב: AI RMF משלימה לתקנים קיימים ועתידיים, סיוע לארגונים בשמירה על עמידה בתקנים.
חסרונות:
– דרישות משאבים: הצבת המסגרת מדרושת זמן, מומחות ואולי משאבים כלכליים שבעלים מארגונים מסוימים יכולים למצוא קשה להקצות.
– סיכון של חדשנות שם: אם המסגרת תהיה יותר מורציפה או עופרת יכולה לצור סיכון של החדשנות על ידי יצירת סביבת הרגולציה המורכבת מדי.
קישורים קשורים:
למידע נוסף על שימוש אחראי בAI, תוכל לבקר באתר האינטרנט הרשמי של המכון הלאומי לתקנים ולטכנולוגיה: NIST. בנוסף, אפשר למצוא מידע על מערכות הניהול העולמיות הגובירניות באתר האינטרנט הראשי של האיחוד האירופי: האיחוד האירופי.
חשוב לציין כי ככל שAI ממשיך להתפתח, מסגרות ותקנים סביב השימוש בו יתפתחו לצדו, ישפיעו על מגמות עתיד בשלטון AI ובאתיקה.