בשיחה אחרונה עם אילון מאסק, מומחה בתחום המודעות מלאכותית (AI), נבחנו המכשולים הנוכחיים שנתקלים חברות טכנולוגיה גדולות בשנה האחרונה. מאסק הדגיש את האתגרים המול קרניות בעתיד והספק העולה לפני התעשייה, וסיפק תובנות לאפשרויות עתידיות שעשויות להתעורר.
אחד הדאגות העיקריות שהוצגו על ידי מאסק הייתה הקשור לבעיות חומרה. בעוד החוסר הטבעי שפגע בתעשייה בין 2022 ל-2023 עבר את עיצומו, בא לידי ביטוי קושי חדש בצורת חוסר במוטות מתח. טרנספורמטורים אלה מהווים חלק חיוני למפתחי AI רבים, שהם משמשים תפקיד עיקרי בספק כח והפעלה של המודלים שלהם.
לצידם, מעיד מאסק כי קרטוב עתידי בשנה הקרובה מעודד אזהרה מהאפשרות לחסר חשמל בכלל. הכוח העצום הדרוש לאימון דגמי AI עשוי להביא למצב דחוק זה. מאסק הסביר כי דגם ה-Grok 2 לבדו דרש למיצוי של כ-20,000 כרטיסי NVIDIA H100 GPU, ומציין כי לפחות 100,000 משבצות H100 יתבקשו לדגם ה-Grok 3.
לפי החישובים של Tom's Hardware, כל כרטיס NVIDIA H100 GPU צורך כ-700W בעת הפעלתו בשלמות. במחשבה על כך שיתווספו 100,000 כרטיסים, יחד עם השרתים ומערכות הקירור הנדרשים במרכז נתונים, יצרכו משאבי כוח סוחפים של 100 מגה-וואט יומיים. להבהרת הדברים, רמת צריכת כוח זו היא דומה לצריכת אנרגיה של עיר קטנה.
שאלות נפוצות:
ש: מה הם האתגרים שנתקלו באוכלוסיית הטכנולוגיה הגדולה בשנה האחרונה?
ת: החוסר בטבע הכרטיסים היה אתגר ניכר שנתקלו חברות טכנולוגיות גדולות.
ש: מהו המכשור הנוכחי בתעשייה של מפתחי AI?
ת: המעטה במתח טופל על ידי מפתחי AI.
ש: על מה אילון מאסק הזהיר לגבי העתיד?
ת: מאסק הזהיר לגבי האפשרות לחסר חשמל, שעשוי להשפיע על עידוד דגמים של AI.
ש: כמה כוח דרש לאימון דגמים של AI?
ת: לפי אילון מאסק, אימון דגם Grok 2 לבדו דרש למיצוי של כ-20,000 כרטיסי NVIDIA H100 GPU.
מקורות:
– Tom's Hardware (www.tomshardware.com)
תקציר על העיסוק:
המאמר מתייחס לאתגרים שנתקלות חברות טכנולוגיות גדולות בתחום המכונה הלמדת (AI). תעשיית הAI ערכה צמיחה משמעותית בשנים האחרונות, עם חברות בכמה תחומים משתמשות בטכנולוגיות AI לשיפור מוצריהן, שירותיהן ופעולותיהן. הביקשה אחר דגמי AI ויישומים מובילה לקידומים בטכנולוגיות חומרה ותוכנה לתמיכה בפיתוח והתקנה שלהם.
צפיות שוק:
השוק של AI צפוי להמשיך את המסלול הצמיחה שלו בשנים הקרובות. לפי דיווח של Grand View Research, גודל שוק הAI העולמי משוער להגיע ל-733.7 מיליארד דולר עד 2027, עם שער צמיחה שנתי מרוכז (CAGR) של 42.2% מ-2020 עד 2027. הצמיחה הזו דוחפת בשימוש בAI בתחומים כמו בריאות, פיננסים, קמעונאות ורכב, בין השאר.
בעיות הקשורות לעניין:
1. אתגרי המחשבים: המאמר מדגיש את נושא המחסור בחומרה שנתקלה בתעשיית הAI. החוסר בכרטיסים שחוויתה בשנים 2022-2023 השפיע על זמינותם של רכיבים קריטיים הנדרשים לפיתוח AI. המחסור זה השפיע על יצור וזמינות של ציוד AI, גורם להפרעות בשרשרת האספקה. בנוסף, ההתבצרות של מחסור במוטות מתח מהווה מכשל נוסף למפתחי AI, שמשימים אלו מופעלים ורצים מודלי AI.
2. צריכת כוח: בעיה נוספת שחשזיר המאמר היא הצריכת כח המשמעותית הקשורה לאימון דגמי AI. ככל שהמודלים של AI מתמצפים במורכבותם ובגודלם, הצורך החישובי הדרוש להם גדל כן. דרישת הכחות המובילה הזו יכולה למתוח פתיחות האינפרה מתיישב קיימת ואולי אף להוביל לחסרי חשמל. עיתון הדגם Grok 2, שביקש כ-20,000 כרטיסי NVIDIA H100 GPU, מדגיש את הנפח של צריכת הכוח המעלה. דרישות האנרגיה לאימון דגמי AI בתצורה גדולה יכולות להיות דומות לאלה של עיר קטנה.
מקורות:
– Tom's Hardware (www.tomshardware.com)
– Grand View Research (www.grandviewresearch.com)
The source of the article is from the blog lisboatv.pt