דריו אמודי, מייסד אנתרופיק, מחליק דאגות במידע על פיתוח העברת הידע
בשדה המתקדם מאוד, דריו אמודי, מייסד אנתרופיק וחבר מייסד ב-OpenAI לשעבר, מבטא את החוסר הנוחות שלו לגבי עתיד המודעות המלאכותית (AI). הדאגות שלו נובעות מהפוטנציאל של AI להפוך למאוד אוטונומית ולהכפיל את עצמה תוך שנה הבאה. הדאגה לא רק על כושרי הAI, אלא על אפשרות לשימוש לרעה שלה.
מציאות AI דומה ל-Terminator
התרחיש עשוי להשמע כתזכרת לסרטי ה- "טרמינייטור", עם רובוטים המובילים מלחמה על האנושות. אך, אמודי מזהיר כי AI כה חזקה ועצמאית עשויה בקרוב להפוך למציאות. לאחר שהתפרק מ-OpenAI בגלל פילוסופיה נפרדת, אמודי התמקד בהקמת Anthropic, במטרה ליצור מודל שפה אטי אתי ובטוח. במסע הזה, הוא פיתח את AI Safety Levels (ASL) להערכת הסיכונים הפוטנציאליים של מבחר המודעת המלאכותיות, עונה את שיחה אוטומטית של Anthropic בשכבות אבטחה מוגדרות היטב.
התקדמות לרמות גבוהות יותר של ביטחון AI
באופן נוכחי, בשלב ASL 2, דגמי הAI משויכים לסיכון בינוני. עם זאת, ויזייתו של אמודי מציינת כי ייתכן שנתקדם לשלב ASL 4 עד 2025. ברמה זו, המלאכותיים יחזיקו ביכולות לתקשר באופן משכנע עם בני אדם ולפעול באופן אוטונומי. הדאגה של אמודי לא היא כך כלכך על הטכנולוגיה בעצמה אלא על מהלכים שיתכנו לעייפה.
מודעות AI בידי משטרים קשים
במיוחד, הוא חושש מהאימוץ של AI על ידי מדינות אוטוריטריות או מדיניות כמו סין, רוסיה או צפון קוריאה, בהן זה ימריא את כח הצבאי ואת השלטון האזורי. היושר האתי וההודעה הקולקטיבית בקרב קהילת הAI נעים, מעלה דאגות של גישתה האחידה להתקדמויות אלו. אמודי מקווה שדאגותיו יתבררו לא מוצדקות, אך רק הזמן יגלה את סיפור השלטונו של AI ואת השלטון שלו על החברה הגלובאלית.
שאלות חשובות ותשובות מתואמות:
– מהם הסיכונים הפוטנציאליים של מודעת AI והפכה לאוטונומית ולהעצמה?
מערכות AI אוטונומיות ומאתגרות עצמן עשויות להפעיל מעבר לשליטה האדם, גורמות סיכונים כוללים השלכות לא מתוכננות, נושאי אתיקה בנוגע להחלטות שנעשו ללא פיקוח אנושי, ואת אמצעי אצלת יכולת מילוט בלתי פוסקת במודעות מהשטחים הדמוקטים.
– איך יכולים רמות המודעת AI (ASL) לתרום לפיתוח של AI בטוחה?
רמות המודעות המופעלות מספקות מסגרת מוקפית לעריכת סיכונים הקשורים למערכות AI. זה יכול להיות מנחה לפיתוח של AIs הבטוחה, השבטית, ואמצעי הבקרה הזמינים עם ההפחתה של יכולות המנהל.
– אילו דאגות אתי עם פיתוח טכנולוגיות AI מתקדמות?
נושאי אתיקה כוללים את הזכויות לפרטיות, הקיבולת האנושית בהבחרות לקחת, אובדן העבודה עקב אוטומציה, והפוטנציאל להפגנת רשות־של־המשתמש או להתעמל ברע לעמלה ממקרים (מתוך ליבות) אליהם בלתי אמינים או של ממשלות לחביבות.
– האם יש גישה מאוחדת בקרב קהילת הAI בנוגע לטיפול בסיכוני AI?
אין גישה אחידה ויסודית, בעודת עדות גברתי על האומה אתי ואידיק מדיה, בקרב על חסון הפעלתיות אליהם. פניה לאסלמי ומין לקראועבער.