Kevin Topolskyמכון מחקר ממשלתי יוצא לאור יפרסם מדיניות באוגוסט שתייעד למניעת הפצת מידע שקר ביחס להתפשטות הלמידה העמוקה (AI). יוצג גם מדריך לניהול תהליכי בדיקת גיליון המודעות הקשוריים לAI ולנתוני פלט לא כראוי מנקודת מבטו של שימוש פוטנציאלי.
הקריטריונים העיקריים של מדיניות זו הם לספק בהבהרה ביחס למהו AI בטוחה, מאפשרת לעסקים להשתמש בטכנולוגיות AI בביטחה. מכון בטיחות AI החדש הוקם במיוחד, בראשותו של המנהל אקיקו מורקמי, הדגיש את חשיבות האפשרות לחברות וטכנולוגים להתמקד בחדשנות תוך טיפול בסיכונים כגון פשיעת מידע ודיכוי בנוף הAI.
רמאאמי הדגישה את החשיבות של שיתוף פעולה עם מכוני מחקר בארצות הברית ובממלכה המאוחדת לזיהוי סיכונים הקשורים לAI בסביבות ייצור בהן מבצעת יפן הצליחה. הדיונים בין הסקטור הפרטי והממשלתי עדיין בשלבי התחלתם, הודה בצורך לנווט מדיניות בטיחות בתוך התקדמות טכנולוגית מהירה מבלי להפריע לחדשנות.
בעוד המתיחה סביב הקריטריונים להערכת בטיחות הAI מתייחס להקמתם המכון נמנע מהעמקה בתקנים ספציפיים בהוצאה זו, והשאירו אותה כסדר יום לעתיד. המנהל מורקמי, חוקרת קודמת של AI ב- IBM יפן ונציבת נתונים הראשית ב- Sompo יפן יושבת על ראש המאמצים המחקריים הטכניים לשדרוג ביטחון הפיתוח והאימון של AI.
כשהמכון למחקר ממשלתי מתכונן לפרסם את ההנחיות שלו בהערכה של ביטחות הAI באוגוסט, השיחה מתרחבת תוך כדיו לכלול מגוון נרחב של התייחסויות מעבר למידע שקר ולפגמים. שאלה מרכזית אחת עולה: איך ההנחיות הללו יכולות להתאים לנוף הטכנולוגי והיישומי המתפתח במהירות של טכנולוגיות AI?
אחד הנושאים החשובים שעשוי להיות מובא בהנחיות הקרובות הוא ההקלה על הדעת באלגוריתמים של AI וטיפול בחששות אתיים הקשורים לתהליכי קבלת ההחלטות של AI. דבר זה עלול להעלות את השאלה הקריטית: איך ההנחיות יכולות להבטיח הוגןות ואחריות במערכות AI בתוך מגוון ענפים והקשיים החברתיים?
אתגר משמעותי בהערכת הביטחון של AI הוא בהבנת תוצאות מערכות AI, במיוחד בתרחישים מורכבים שבהם החלטות עשויות להיות לקחות מרחוק. איך ההנחיות יכולות לספק מסגרות ברורות להערכה ואימות הפלטים של מודלי AI לספק פתיחות ואמינות?
התקן של תהליכי ההערכת ביטחון AI עשוי להביא לתוצאת משך ובהירות לתרגילי ענייני התעשייה, תוך קידום הבנה ושקיפות טובה והתאמה. בכל זאת, טבעם הקשוח של התקנים יכול לצמצם את החדשות ולהפרע מהגמישות הנדרשת בכדי לטפח אתגרים ייחודיים ביישומים מסוימים של AI. איך ההנחיות יכולות לשרשרת איזון בין התקן וההתאמות?
