הפוקוס החדש על יעילות האנרגיה בתחום המבוזר של על

מכנס המפתח של GTC של חברת Nvidia בסן חוזה, קליפורניה, עורר רמות מרוממות בתחום העל. נקרא בשם "וודסטוק של על," אירוע זה ראה את איסוף הענק של ענניות בתעשייה, כולל Nvidia, OpenAI, xAI, Meta, Google, ו-Microsoft, וגם מרמטיות מחברות גדולות כמו לוריאל, לוויז, של ו-Verizon, הכל תוך מבקש בכל מיני ליישם טכנולוגיית על.

במהלך הכנס, הבן-אדם הראשי של Nvidia, ג'נסן הואאנג, חשף את מעבד הגרפיקה החדש של החברה, בשם מעבד הגרפיקה שחורה. צ'יף חדש זה מציע יתרונות מרשימים על פני קודמו, דף GV100, השהה 208 מיליארד טרנזיסטורים, עולה על היכולות שלו של מעבדי H100, השהו 80 מיליארד טרנזיסטורים. הצ'יפים הגדולים של מעבד הגרפיקה השחור מספקים מהירות כפולה לאימון של דוגמאות על עצמי והם חמישה פעמים מהירים להפקת תוצאות מדוגמאות מאומנות (נקראות גם הצפתות). Nvidia הציגה גם את צ'יף "סופר-צ'יפ" GB200, המשולב שני GPU שחורים למעבד ה-Grace שלה, שנתפסים כהמעל יחידות MGX של גרייס הופר שיושמו במרכזי נתונים.

אספקט שיחזור לעין של מעבד הגרפיקה השחור הוא הפרופיל החשמלי שלו, ו-Nvidia מושכרת את זה ליתרון שלה בשיווק הצ'יפ. בעבר, צ'יפים עזים צרכו יותר אנרגיה, עם יעילות האנרגיה נצמדת לביצועים גולמיים. במגילת פנים של מעבד הגרפיקה השחורה, הואאנג הדגיש את מהירות העיבוד הגדול יותר שלו והדגיש את הצריכת הכוחות הנמוכה במהלך האימון בהשוואה לדוגמאות הקודמות. האימון של דוגמאות על עצמי עניינות גדולים במשלט יורד על 2000 GPU שחורות שיבקשו 4 מגהוואט במשך 90 ימים, לעומת 8000 GPU ישנים שיצרכו 15 מגהוואט לאותו תקופת אימון. ההבדל המשמעותי בצריכת החשמל מתמודר את הדאגה לגבי העלויות הכספיות והרוח הכרבון מהונקעות בטכנולוגיית על.

התמקדות בצריכת הכוח מכריעה, בידי אם. המודעות המוגברת להוצאות ולהשפעה הסביבתית של על עשויה לגרום לחברות להימנע מלא ללכת עם המהפכה המקור המחולל על. ספקי עננים, למשל, גובים עמלות גבוהות להרצת GPU, לא רק על מנת לחשב על עלוי הצ'יפים עצמם, אלא גם לכיסות צריכת האנרגיה ודרישות הקירור של מרכזי הנתונים. Nvidia מזהה את הדאגה הזו ומכוונת להקל על זה על ידי הדגשה של היעילות האנרגטית של הבלקוול. בנוסף, Nvidia
צומח על כך שמומחים בעלי הכרה בעלי דרך למימון את הביצועים של מודלים גדולים, משכאבי כוח אנרגיה עם גדול עם גי.4 באמצעות דגמים קטנים יותר ומחסורי אנרגיה נמוכים.

בערך בקשר עם המרכזים המידעיים במיוחד תודעה, עבור העידכונים נדרשים, שהיאם עצ של 1: לצבת אחת בלבד

The source of the article is from the blog publicsectortravel.org.uk