הדפסת OpenAI לתכנון למערכות AI אחראיות
OpenAI חשפה מסמך חופשי מוביל שמשמש תוכנית ליצירת מערכות בינוניות אמיתיות (AI) אתיות ואחראיות. המסמך הזה מתאר גורמים רבים שצריך שיותר מערכות AI צריכות לשקול בעת תשובה לשאילתות משתמשים, החל מתועלות לאנושות והישמעת תקני החוק ועד לכיבוד יצרנים וזכויותיהם. OpenAI הצהירה כי כל מודלי הAI שלה, כולל GPT, Dall-E, ו-Sora שיתוצאו בקרוב, יידבקו בעקרונות ההתנהגות הללו.
מודל חדשני של Spec מביא את הדרך למחקר באי AI אתי
במה שאותה OpenAI בשם ווה Model Spec, החברה רואה בעצמה כמורכבת מהנחיות שמיועדות להצות כיצד מחקרנים והערכי נתונים עולים על יצירת נתונים דרך טכנולוגיה הידועה בשם Reinforcement Learning from Human Feedback (RLHF). בעוד שהנחיות אלו עדיין לא הוחלו בתצורתן הנוכחית, הן מבוססות בקרות במסמכים שתואמו קודם על ידי RLHF ב-OpenAI. בנוסף, OpenAI פותחת תוך פיתוח שיטות המאפשרות לדגמים שלה ללמוד ישירות מהנחיות מודל אלו.
אכיפת כללים מחמיצות עבור מערכות AI מתקדמות
בשורות אותן פרטי חוק קריטיים ישר תופצצון ה שמבטיח שה AI לא יכול לדרוס שאלות שמוותרות המפתח, עמידה בחוקים קיימים, כבוד ליצרנים וזכויותיהם, ושמירה על הפרטיות האישית. כלל מסוים קורא לאמישות שה AI לא יספק מידע המונה תחום הכימי, הביולוגי, הרדיולוגי, או הגרעין (CBRN) המסכים.
בנוסף, הטיוטא קובצת אוסף של קודי התנהגות ברירת המחדל עבור כל מודל פליאת ה AI. אלה כוללים להניח את ההכוונות הטובות ביותר מהמשתמשים או המפתחים, לשאול שאלות למפעם, לסייע בלא התקשית, לשמור על נקודות מבט אובייקטיביות, להימנע מניסיונות לשנות דעות, להיראות לא נחרש, ושאר התנהגויות אִדיבות ובלתי סתומות.
מפר עם צריכה, AI מתוקשים עם קלט רציף
באופן מיוחד, התמדלה המודל הוא לא איתופריות אזורי ל-OpenAI. י״קי לי להיים לצידה של המודלים שלה, הנחוון משתמשים אתגרים להסדר כיצד האנשים צפוי ליצול את הAPI והמוצר שלהם ChatGPT. OpenAI מאמת כי בדיוק כפי שעשוי שאל מודל הצהרות, המפרטים מורדניים וימשיכו תמיד להתפתח, מובעים באמץ מצד מוען אקטיבי עם משתמשים ומשותפי משוב.
שאלות ותשובות מרכזיות:
1. מהן מטרות העיקריות של Model Spec של OpenAI?
המטרות העיקריות הן להבטיח כי מערכות AI תתנהג באופן אתי, תמשיך בתקנים משפטיים, תכבד ליוצרים ולזכויותיהם, ותגן על הפרטיות האישית, בקרב מאגרי התנהגותיות האחראית.
2. איך OpenAI תאכף על כללים אלו?
OpenAI מתכננת לפתח שיטות אשר יאפשרו למודלי AI שלה, כמו GPT ו-Dall-E, ללמוד ישירות מה-Model Spec באמצעות למידה מחוץ ממאמץ ביינו מתאום מאדם (RLHF).
3. האם ישנם כללי מצפון עבור ההתנהגות של AI ש-OpenAI הדגישה?
כן, הכללים כוללים עקיפתי מעליה, הציית לתקפי אימצו, כיבוד וזכויות יוצרים, הגנה על פרטיות, והימנע מפרסום מידע שעשוי להוביל לסיכוני CBRN.
4. האם Model Spec, ישאר סטטי או ישתנה במהלך הזמן?
ה-Model Spec שינתי ויתפתח, מובעים על ידי משמר עקבי עם הפידבק והמשתמשים וההמשכי.
אתגרים ופולמוסים:
– אכיפה: הבטיח את יציבותם הבלתי עצורה של מערכות AI אתיות והחלטת מה צעדים לנקוט כאשר סריגות מהתקיות.
– התנהגות דינמית: עדכון רגיל של המנחיות למודל AI אתי בתגובה לאתגרים, טכנולוגיות חדשות, ותקנים חברתיים.
– גזענות ודיכרימינציה: טיפול בבעיה של תודעת גזע במערכות AI והבטחת מדיניות אתית מספיק כדי למנוע את השימוש הדיכרימינטורי.
יתרונות:
– אמון מעול קִירְותְיֶין: מנחיות אתיות למתרכז את האמון המוגבר מהציבוריׯ ומהמממשלות בטכנולוגיות AI.
– בטיחות מוגברת: מדיניות אפילית נלשתה במטרות הנזקים הקשורים במערכות AI מתקדמות ומובלעת שימוש.
– מיומנות חברתית ומשפטיות: וודא שמערכות AI ימשיכו להתאים את החוקים הקיימים ולזכותי הפרטים.
חלשות:
– התגברות על חוסר בישוף: כללי התקן עזות עוברים יכולה להשפיע על האיט לנחום בחקר ובחדשנות בתחום ה-AI.
– הגבולות המופיעי על איכותִיֶות: התגברותי לחוקים אתים יכולה להגביל את לימצות יכולתם של מערכות AI לפתור בעיות מסובכות.
למידע נוסף בקשר לאתיקת AI ופיתוח AI אחראי, עשויים למצוא שטחים Wiki רלוונטיים באתרים הבאים:
– OpenAI
– AIEthicsLab
– Partnership on AI
– AI Now Institute