המוסד הבריטי לתקנים (BSI) פרסם סטנדרט בינלאומי חדשני על אופן ניהול הבינה המלאכותית (AI) באופן אפקטיבי ואחראי. ההנחיות המתפרסמות לראשונה מספקות הוראות להקמה ותחזוקה של מערכות ניהול AI, עם הדגשה על השגת מנגנון אבטחה. בעוד שטכנולוגיית AI מתקדמת במהירות, נמשכת הדיון לגבי הצורך בתקנים. הצורך בתקנים התגבר עוד יותר עם הגעת כלים חדשים כמו ChatGPT שמסייעים ביצירת AI.
בנובמבר האחרון, בריטניה אירחה פגישת עולם ראשון לביטחון AI הכוללת ראשי ממשלות וחברות טכנולוגיה מרכזיות על מנת לדון בפיתוח אחראי ובטוח של הבינה המלאכותית והאיומים הכוללים שהיא עשויה לייצר בטווח הארוך. בין הדעות ששוחחו היו השימוש בAI כדי ליצור תוכנה זדונית להתקפות סייבר והאובדן האפשרי של שליטה על הטכנולוגיה, מה שיוביל לאיומים אקזיסטנציאליים לאנושות.
פרסום סטנדרט בינלאומי זה בשם יד חשובה במאמץ להבטיח את השימוש האחראי של AI. סוזן טיילור מרכזת חשיבה של BSI מדגישה את התפקיד הקריטי שהאמון משחק בשיצוב היכולת המשנה של AI לטובת החברה. הסטנדרט מטרתו להעצים ארגונים לנהל בינה מלאכותית בצורה פורצת דרך, ובכך למהר בהתקדמות אל עתיד טוב יותר וארצות נחושות.
ההנחיות שכללו בסטנדרט מכילות מגוון דרישות, כולל מבחני סיכונים מבוססי הקשר ושליטה נוספת על מוצרים ושירותים פנימיים וחיצוניים הקשורים לAI. סקוט סטידמן, המנכ"ל לתקנים ב-BSI, ציין את השימוש הנרחב של טכנולוגיות AI על ידי ארגונים בבריטניה, למרות החוסר של מסגרת תקנים. פרסום הסטנדרט הזה ממלא חסר חשיבות ומספק הנחיות ושומרות להגנה על צרכנים ועל תעשיית הAI מסיכונים אפשריים.
נשיאים במזרח העסקי נוקטים במעשים הטובים ביותר שמצויים בסטנדרט AI, המשלבים בין חדשנות והקטנת סיכונים. המטרה היא להבטיח שפיתוח טכנולוגיות AI לא יחסל באופן בלתי נועץ את הקשיחיות במערכת של השיפוט, לתת פתרויות עיוורות למצב בריאות, או לפגוע בפרטיות. על ידי דיבוק להנחיות אלה, ניתן לתמך בביטחון ביכולות של AI בעוד תובנות לשימוש אחראי.
The source of the article is from the blog foodnext.nl