המכון האמריקני לבטיחות בתחום הבינה המלאכותית, ראשי השלוחה של מכון התקנים הלאומי, עשה לאחרונה כותרות בעקבות הכרזה על מנהיגות חדשה אחרי רמיזות רחבות. המכון קיבל את פול כריסטיאנו, חוקר קודם ב-OpenAI וחדשני בלמידה בהגברה ממשוב האדם (RLHF), כראש מחלקתו החדשה.
למרות הרקע המרשים של פול כריסטיאנו במחקר, מינויו עורר אמביבלנס בתוך קהילת הבינה המלאכותית, כיוון שהוא ידוע כשיש בו חששות על האיום האקזיסטנציאלי שעשוי להיאת על-ידי פיתוח בתחום הבינה המלאכותית. בפודקאסט מקוון בשנה שעברה, כריסטיאנו הביע אמונתו בסיכוי של 10-20% שהבינה המלאכותית עשויה לנצח על שליטת האדם ולהוביל אותנו לכישלון. הוא שער כי בעת שתגיע מערכות הבינה המלאכותית לרמת הבנה האנושית, עשוי להיות גם סיכוי שגורל האדם ייקוש בזמן קצר לאחר מכן.
במכון, התבשרו רעשי ביקורת על המינוי של כריסטיאנו, בו זוממין כמה חברים וחוקרים ברשות השקיפה את התפטרותם בשל חששות על השפעתו הארוכה טווח על המדיניות שעלולה להשפיע על האנטיאובייקטיביות והתוקפנות של המכון בעתיד.
אף על פי כן, מכון לבטיחות בתחום הבינה המלאכותית מחזיק בהתמדות במשימתו: לקדם מדע על ידי השראת חדשנות ותחרותיות בתעשייה. העבודה בכדי למחדד את המדע והטכנולוגיה באופן שמחזקת את ביטחונות הכלכלה ומשפרת את איכות החיים.
The source of the article is from the blog tvbzorg.com