OpenAI, חברת סטארט-אפ מובילה בתחום AI, הודיעה על יצירת צוות חדש בשם Collective Alignment, המטרה שלו להשתמש בקהל הרחב כדי לשפיע על התנהגות המודלים של AI. הצוות יעבוד על עיצוב מערכות שמשתלבות כניסות ציבוריות ומתמודדות עם אתגרים שונים, כמו החלוקה הדיגיטלית, פולריזציה, ייצוג דיור ודאות ודאות בעתיד של שלטון AI.
כחלק ממאמציו, OpenAI תשתף פעולה עם מייעצים חיצוניים וצוותים שמקבלים קרנות, כולל הפעלת נבחנים כדי ליישם את פרוטוטייפי הקרנה לשליטה במודלים של AI שלה. החברה ממציאה מחדש הנדסאים חקר מרקע טכניים שונים כדי להצטרף לצוות התאמה קולקטיבית.
היוזמה הזו נובעת מתוכנית הציבורית של OpenAI שנפתחה במאי, כאשר היא מעניקה קרנות שווה 100,000 € לתמיכה בניסויים על "כניסות דמוקרטיות ל AI" ברחבי העולם. התוכנית הייתה במטרה להקים תהליך דמוקרטי לקביעת כללים שיש למערכי AI לעקוב אחריהם.
OpenAI מכירה בחשש שהבעיה הובאה על ידי משתתפים מסוימים לגבי השתתפות הAI ביצירת מדיניות ומדגישה את חשיבות השקיפות בשימוש ה AI בתהליכים דמוקרטיים. משתתפים בתוכנית חוו עיתוי בתחושה, עם רבים שזכו להיות יותר מקווים ליכולת הציבור לתרום להובלה של AI דרך דיונים הבאים לביטוי.
בנוסף להקמת הצוות התאמה קולקטיבית, OpenAI שיתפה גם את הקוד שפותח על ידי משתתפי תוכנית הקרנה וסיכמה עבודתם. צעד זה מתרומם להתחייבותה של OpenAI לפתיחות ושקיפות בגיבושה של טכנולוגיית AI.
על ידי שילוב דעת הציבור ויצירת מערכות המשקפות תובנות שונות, OpenAI מתאם לו יתרוודדיות לערכי החברה ומנסה למנוע הטיות או תוצאות לא רצויות במודלי ה AI. הצוות התאמה קולקטיבית מייצג את ההתקנה של OpenAI לשילוב ערכי הציבור בצורך במהלך העיצוב של טכנולוגיית AI.
The source of the article is from the blog elektrischnederland.nl