המחשבה על המאזן בין התמהון והפחד בתחום הבינה מלאכותית (AI) היא מרתקת כבר מעמדה. בעוד שיש בה פוטנציאל עצום לשנות את חיינו, רבים מתריעים על סיכוניה האפשריים. הסיכוי לקריתה נוראית מצד הAI, ידוע גם בשם "הסיכוי לחורבן" או p(חורבן), הוא נושא שעירבוב את החוקרים.
יאן ליקון, אחד ממובילי תחום הAI, מבטה באופטימיות לעניין. הוא מאמין כי הסיכוי כי AI תיקח שלטון בעולם או תגרום נזקים הוא נמוך מ־0.01%, פחות אפשרי אפילו מאשר נס נשק יפוח את האנושות מן העולם. למרבה הצער, נקודת המבט הזו אינה משותפת באופן רחב.
ג'וף הינטון, דמות מרכזית נוספת בתחום הAI, מעלה דאגות ומעריך ב־10% את הסיכוי של AI למחוק את האנושות בתוך 20 שנה הבאות. יושוע בנג'יו, עוד מומחה בAI מובהק, הופך את המספר ל־20%, מדגיש את הסיכונים הפוטנציאליים הקשורים למערכות AI מתקדמות.
עם זאת, נקודת המבט הכי פסימית מגיעה מרומן ימפולסקי, מדען לביטחון AI. הוא מאמין בחוזק כי AI שתמחוק את האנושות היא כמעט בטוחה, ומציין סיכוי של 99.999999%. תחזית הכובדת זו דוגלת בצורך לפיתוח אתי ואחראי של טכנולוגיות AI.
אילון מאסק, תומך חזק בביטחון AI, מכיר בסיכונים הפוטנציאליים. הוא מסכים עם הערכה של ג'וף הינטון של 10% עד 20% סיכון שAI תסיים את האנושות. עם זאת, מאסק סבור כי המוצאות החיוביות של פיתוח AI חורפות את המוצאות השליליות, ומבקש מאיתנו לנווט בזהירות בנתיב הזה קדימה.
ימפולסקי, בתורו, מביא תיקון ומטען לעזוב את המסלול של AI מתקדמת לחלוטין. הוא מציע כי פעם שAI תחזיק בעצמה תהליכים יקרבו אל מצב בו השליטה בפעולותיה לא תכולה וילקחו איסור. ימפולסקי משקיע בנקודה כי חכמת המחשב הבלתי נשלטת מהווה סיכון גדול, לא משנה מי מפתח לה מערכות.
בעוד שמומחים מחזיקים בדיוקניות שונות בקשר לסיכוי לחורבן, חשוב לטפל בסיכונים הפוטנציאליים הקשורים לAI. הפיתוח של מערכות AI אחראיות וברורות חיוני להקל על הסיכונים הללו.
שאלות נפוצות
מהו "הסיכוי לחורבן" בAI?
כונה "הסיכוי לחורבן" או p(חורבן) היא ההזדמנות לAI לגרום לתוצאות קטסטרופליות, כגון לקיחת שלטון בעולם או לסכן את האנושות.
מי משמעותיים בעולם הAI?
יאן ליקון, ג'וף הינטון ויושוע בנג'יו נחשבים כ־"שלושת אבות הAI" עקב תרומתם המשמעותית לתחום.
מהן הסיכויים של AI למחוק את האנושות?
ההערכות שונות מאחריותם, עם יאן ליקון האופטימי ביותר בפחות מ־0.01%. ג'וף הינטון מעריך סיכון של 10%, בעוד יושוע בנג'יו מעלה אותו ל־20%. רומן ימפולסקי מחזיק במבט הכי פסימי עם סיכון של 99.999999%.
מהו הטיעון נגד פיתוח AI מתקדמת?
רומן ימפולסקי מציע לוות בפיתוח של AI מתקדמת כל כך קשה לשלוט בפעולותיה פעם שהיא ילכה לנפגע. הוא מדגיש את המסוכנות הקשורה לחכמת מלאכים בלתי מנוצלת.
איך אלון מאסק רואה את הסיכונים של AI?
אילון מאסק מסכים עם ההערכה של ג'וף הינטון, של 10% עד 20% סיכון שAI תסיים את האנושות. מאסק, מכל זאת, תומך במוצאות החיוביות של פיתוח AI ומבקש מאיתנו לנווט בזהירות בנתיב הקדימה זה.
מקורות: מקור דוגמה
[הטמעת סרטון]
The source of the article is from the blog xn--campiahoy-p6a.es