ניתוח טכנולוגיות AI לשילוב עסקי בטוח יותר
המודלים של הבינה המלאכותית (AI) מתקדמים במהירות ומצפים להיות בקרוב דרך מרכזית בפעולות של רוב החברות. עם ההתקדמות הזו, עולה צורך בשיטת תקן לניהול סיכונים לציית פוטנציאל המכשולים של AI ולעודד את השימוש הולם בה. על מנת לקדם את הצורך הזה, המכון הלאומי לתקנים וטכנולוגיה (NIST) בארצות הברית הציג את "המסגרת לניהול סיכוני AI" (AI RMF) בינואר 2023.
התמיכה של ממשלת ארה"ב ביישום אחראי של AI
ממשלת ארה"ב פעילה בהבטחה שחברות יישם AI בצורה אחראית. ב-2022 פורסמו המדריכים בשם "תוכנית מסמך זכויות AI" ששם את הבסיס לשימוש אתי של AI. על ידי אוקטובר 2023, ממשלתו של ביידן העצימה את היישום הזה עם צו נשיאותי על ביטחון ה AI.
החשיבות של AI RMF של NIST
נוצר כחלק ממעמדה של הממשלה לביצוע AI שאחראי-כולל הוגנות, שקיפות ואבטחה-AI RMF מספק הנחיות לאורך מעגל החיים של AI. הוא מתעצב מארבעה 'קרונות': לשלוט, למפר, למדוד ולנהל, על פי המרובות של קטגוריות ותת-קטגוריות לממשק באופן מקיף סימן נכון.
תת-קטגוריות חיונית תחת 'לשלוט', מזוהה כלשונה לשלוט 1.6, דורשת פיתוח של לוח מאפיינים. מעשה המפעיל תרחישים על מנת להעריך מקרי שימוש ב AI באופן מקיף וסיכונים המשווקים עימם, ולכן מבטיח מינהל סיכונים יעיל ואישור על פי התקנים. הפתחה של מאוחר זו מומלץ על ידי פרוטוקולים אחרים כמו חוק ה AI של האיחוד האירופי ולשרות תקציב הממשלה (OMB) בארצות הברית.
הנגשות פרטיות של AI RMF והשלכותיה לעתיד
למרות שלא קבוע כתקן רשמי או דרישה חובתית, AI RMF נצפה כנקודת התחלה אופטימלית למנהלי AI. מציע לאסטרטגיות שמחיל החל ברחבי העולם למקרי שימוש מגוונים-מסינון קורות החיים וחיזוק האמן בנזיפת זיוף ורכבות שאינם ניתן לשליטעי מתוך השכלת העקרונות של AI Credo. דרך הערות ציבוריות והשתתפות המעורבות, המסגרת הזו עשירה כמדריך עסקי, עם היכולת להתפתח להקשר תעודת תקן, במיוחד בקרב עסקים הפועלים עם ממשל הפדרלי של ארה"ב.
שאלות ותשובות חשובות
1. מהי מטרת מסגרת ניהול סיכוני AI?
AI RMF מיועד לעזור לארגונים לנהל סיכונים הקשורים להטמעת מערכות AI. היא מספקת הנחיות על שמירה על סטנדרטים אתיים כגון הוגנות, שקיפות ואבטחה לאורך מעגל חיי יישום ה AI.
2. האם AI RMF חובה לארגונים?
לא, המסגרת אינה תקן רשמי או דרישה חובתית אך מומלץ כנקודת התחלה למנהלי AI.
3. איך AI RMF מתאימה לתקנות בינלאומיות נוספות?
AI RMF מומלצת על ידי פרוטוקולים אחרים כמו חוק ה AI של האיחוד האירופי ולשרות תקציב הממשלה (OMB) בארצות הברית, אשר ממליצה על התאמה בין-לאומית וצוהות יישומיות לניהול AI.
אתגרים ראשיים וסותרים
– אימוץ ושימוש: יידוד להפצת האופציה של מסגרות מרשית יכול להיות מאתגר, במיוחד לארגונים קטנים ומוגבלים במשאבים.
– איזון של חדשנות והפקידות: להגיע לאיזון נכון בין הפקידות לטיפוח חדשנות AI והבטיחה של שימוש אתי יכול להיות קשה. יתר על הפחותון יכל לרת מרידה טכנולוגית, בעוד קצרון הפקידה יכל להביא לאפליקציות AI לאתיות.
– פרטיות המידע: AI בדרך כלל מוסמך על ידי מוקדמים נרחבים במידות מדרגים גדולים, אשר עשויים לכלול מידע רגיש. להגן על המידע הזה בעוד יש בי קיימה אחראי חובת טכני ואתיקי.
כל אלו הם מאתגרים של יוי בהישגי רחק.