פתח AI פושטה את צוות הכיוון המיוחד שלה, קבוצה המוקדשת לשליטה במערכות AI סופרינטליג'נטיות בעתיד, לאחר רק שנה ליצירתו. ההחלטה הזאת, אשר אושרה על ידי Wired, מגיעה בעקבות יציאתם של אישים נודעים, כולל המייסד יאליה סוטסקבר ומראשי הצוות, יאן לייק.
כפי שדיווחה Bloomberg, OpenAI מקימה על הבחירה לשבור את הצוות נמצאת בתוך בחירה אסטרטגית לשלב את מחקר הכיוון המרכזי למאמצים יותר רחבים לצורך בטיחות בתוך הארגון. עם זאת, האי-השביעות שהוביל אל ההתרחשות של לייק מצביע על טיב עמוק יותר שטמון מתחת לפני המשבר, עם לייק מתקיף את ההתחייבות של החברה לבטיחות לטובת מוצרים קטים יותר אטרקטיביים מיד. עם סוטסקבר משדר צעקה, הוא נשאר אופטימי לגבי העתיד של OpenAI בפיתוח AI כלכלית ובטוחה בנהו מנהיגות החדשה שלה.
גם החברה עברה חרמון בנהו, עם המייסד של OpenAI, סם אלטמן, נדחה לזמן קצר על ידי חברי ועדת הנהלה, כולל סוטסקבר, בהחלטת שובר הופתעה שנוצרה על ידי הפגנת עובד.
במולתא האירועים, ג'ון שולמן ויעקוב פצ'וקי הרשימו תפקידים חדשים להוביל את הבית, מחקר AI ובטיחות של החברה. שולמן יוביל ידיות בטיחות הנפוצות ביותר בעל החברה, ופצ'וקי ימלא את נעליו של סוטסקבר כאמן ראשי, עם קידום גדול בפיתוח מודלי שפה גדולים כמו GPT-4. ההפך בתוך OpenAI היא נקודת פייבוט פוטנציאלית, המדגישה גישה משולבת יותר לבטיחות במהלך עבר את מעברי המנהיגות והפסקות הפנים.
שבירת צוות הכיוון המיוחד של OpenAI מעלה מספר שאלות חשובות׃
– מה ההשפעה של שילוב מחקר הכיוון המרכזי במאמצי בטיחות רחבים? על ידי פיזור מאמצי הכיוון המרכזיים למאמצי בטיחות הרחבים, OpenAI יכולה לקדם גישה בטיחותית מקיפה יותר לביטחון של AI. עם זאת, יתכן גם שזה ירדים את המומחיות והמשאבים הממוקדים שנקצו בעבר על הכיוון המרכזי.
– כיצד ישפיע עזיבתם של אנשים מפתח על כיוון OpenAI בנושא בטיחות ופיתוח של AI? שינויי מנהיגות תמיד מסמנים שינויים בעדים ארגוניים. בסילופם של יעליה סוטסקבר ומראשי צוות יאן לייק עשויים להשפיע על אסטרטגיות החברה ולהגביל את הסבל על המחליפים שלהם לשמר התקדמות בשדה מורכב.
– מהם האתגרים המרכזיים המשולבים עם ביטחון ואתיקה של AI של החברה? עם שמור הולך ומתקדם ומשתלב בחברה, הוודאות שגופים אלה יתקחו לערכי האדם ולא יגרמו בשגגה לפגיעה נשאר עלי ומוקיר. הסכסוכים בתוך OpenAI על האיזון בין ביטחון ופיתוח מוצרים מדגישים את קושי העדר החלטה לתת עדיפות לביטחון ארוך טווח על פני רווחים לטווח קצר.
– האם ישנם סכסוכים שקשורים לפיתוחים אלה? כן, סייג אחד סובב את ההחלטה של OpenAI לפצור את הצוות המיוחד, לכן זה יתכנן דיפריציונות של מחקר בטיחות AI אכזבני. בנוסף, נראה כי יירבעת המרכזיות של סם אלת'מן כיותר התלחש את המוסרת הפנימית על כיוונו של החברה והממשלה.
יתרונות של שילוב מחקר הכיוון המומחי יכולים לכלול פוטנציאל סינרגה עם מאמצי בטיחות רחבים יותר, מעורבות של מערכת מגוונת יותר של חוקרים בדיוני בטיחות ברגעי קריטיות, והענקת ארגון עמיד יותר שבו הבטיחון הוא אחריות של כל אחד.
חסרונות עשויים לכלול אובד המומחיות בפגיעה האקזיסטנציאלית של AI סופרינטליג'נטי, חשש לחוסר עקביות באסטרטגיות בטיחות, והסיכונים שצריכת כונן לפיתוח מוצרים דחופים עשויים לשכחיה על פי יעדי בטיחון לטווח ארוך.
ישנם מספר קישורים קשורים שעשוים לך להיות רלוונטיים:
– למידע על OpenAI ופעילותה, אתה יכול לגשת אל האתר הרשמי שלהם ב- OpenAI.
– כדי ללמוד עוד על בטיחות ואתיקה של AI בכלל, אתה יכול לגשת לאתר של המכון לעתיד של החיים ב- המכון לעתיד של החיים.
סיכום: השינוי המבני בתוך OpenAI משקף את הבחינות המאביבות של תחום האינטליגנציה המלאכותית, בו צריך לארגנים לא מחודש על מערכות מוצרים ואתיקה. שבירת הצוות של הכיוון המיוחד והשינויים במנהיגות מציינים נקודת מפתח עבור החברה כאשר היא מנסה לשקם ערכאי הזכויות שלה לפיתוח טכנולוגיות AI רווחיות ובטוחות.
[הוטמע]https://www.youtube.com/embed/8pFOrDe7crw[/embed]