MLCommons, איגוד הכולל את לוחמי התעשייה הגדולים כמו אמזון, AMD, Google, Intel ו-Nvidia, הוציא את המהדורה הרביעית של מדדי MLPerf Training הממוקדים על הדרכת AI בקניין גדול. הסבב האחרון מציג מדדים חדשים, כמו הגדרת מודלים שפה גדולים ורשתות עצביות גרף. יש לציין במיוחד את המעורבות של Sustainable Metal Cloud (SMC) שסימנה את כליל ייחוד –
מדידות הכוח מתוך 24 הצעות, הנחצות את הפוטנציאל לחיסכון באנרגיה של טכנולוגיית הקירור בטבילה הפטנטית שלהם.
בין המשתתפים השונים, כניסה קטנה אך מצוינת הגיעה מאצל tinycorp, חברה שמובילה מנהל פעילויות George Hotz, אשר המקום שלה הוא במרץ של התאוצה ב- AI בתרומת השבבים הראשונים של AMD אל מודדי ההדרכה של MLPerf גרסה 4.0. להפליג על רדיף השולט על האקסלרטורים של H100 של Nvidia, tinycorp הציבה תוצאות עבור הtinybox האדום, המזויף בשישה מעבדי Radeon RX 7900 XTX, והtinybox הירוק, המאובזר בכרטיסי Nvidia GeForce RTX 4090.
ה-tinybox האדום רשם זמן השלמה למדד של 167.15 דקות, בעוד הגרסה הירוקה פרסמה 122.08 דקות, מציגת אפשרות לשיפור מול מדדים מוכרים שנקבעו על ידי אקסלרטורים מקוריים במרכזי נתונים. למרות הזמנים האיטיים, tinycorp יועצת לקדם הבנות על בסיס יתרון כלכלי שיכול להפוך בסופו של דבר לתועלת כלכלית ממשית בה זמן שווה כסף.
הובטחתו של Hotz לאינטגרציה של המאיץ של AMD שב-MFPerf עד 2024 התגשמה. אתר האינטרנט של tinycorp רושם את ה-tinybox הירוק (Nvidia) בעלות של 25,000 דולר עם איכות נהג מצוינת, ואת ה-tinybox האדום (AMD) בעלות של 15,000 דולר, אם כי עם איכות נהג בינונית ללא יתרונות, ושתי הן עם זמן משלוח של שניים עד חמישה חודשים. למרות קצת התסכול שניתב קודם על ידי Hotz לגבי המסגרת של ROCm של AMD, מוצא עתידי אופטימי לשיפורים עתידיים נראה כי משותפת על ידי שני הצדדים, כפי שנראה בדיוניהם.
התחרויות החצת-שנתיות של MLPerf מאפשרות ליצרנים שונים להציג את כשלול המודלים שלהם להדרכת AI באמצעות מגוון משימות, מעמיקות להגברת הגבולות של הטכנולוגיה והביצועים.
הכניסה של tinycorp של George Hotz למדדי האימון של MLPerf עם שבבי AMD חשובה מסיבות רבות. זה מראה כי נציגים קטנים יכולים להשתתף בתחום המוביל על ידי ענקי טכנולוגיה וכי GPU- הגרפיקה המתקדמים של AMD, אשר לעיתים מוכתוות על ידי התפרסמותה הרובתית של Nvidia בתחביבי הסיפורים המרהיבים, יכולים גם הם להיות תחרותיים למשימות הAI.
שאלות העיקריות הקשורות למקדי השתתפות של tinycorp במדדי ההדרכה של MLPerf כוללות:
1. איך שבבים של AMD בtinybox האדום משווים לאקסלרטורים של Nvidia H100 וכרטיסי Nvidia GeForce RTX 4090 ביצועים?
2. מה ערכים הכלכליים של השימוש במעגלי AMD להדרכת AI, כפי שהודגש על ידי tinycorp?
3. אילו שדרוגים פוטנציאליים גורמים השותפות בין George Hotz ומנכ"ל AMD, Dr. Lisa Su, עשויים להביא למסגרת ה- ROCm של AMD?
האתגרים העיקריים והפולמוסים הקשורים לנושא כוללים את הבאים:
– קיים אתגר נמשך לשיפור המתספק של AMD במסגרת ה-ROCm ואיכות הנהגים כדי להתחרות בצורה יעילה יותר עם הסביבה המוצקה של Nvidia.
– הפולמא שנבע קודם על ידי George Hotz בנוגע לאיכות התמיכה של AMD בימי למידה על ידי מסגרת של ROCm שלה.
היתרונות של הכניסה של tinycorp למדדי MLPerf כוללים:
– הצגת אלטרנטיבה יותר כלכלית להדרכת AI עם הtinybox האדום המשתמש בGPU של AMD.
– עידודה של התחרות בשוק המוטל מאוד ב-Nvidia, אשר יכול להביא ליותר חדשנות ולהוראת המחיר הפוטנציאלית.
– השתתפות בהבנה נרחבת יותר של היכולות והביצועים של כמה תקופות GPU שונות למשימות למידת מכונה.
החיסרונות עשויים לכלול:
– האפשרות כי ביצועי מעגלי AMD יקופאו מאחור מזיקים של Nvidia, שעלולים להשפיע על היעילות והזרמת העובר במשימות למידת מכונה.
– איכות הנהג הבינונית הנוכחית של צ'יפי AMD ליישומים של למידת מכונה, אשר יכולה להגדיל את המורכבות והזמן שנדרשים לפיתוח ולאיתור תקלות.
– צורך לחכות לשיפורים עתידיים במסגרת ה-ROCm כדי לממש באופן מלא את הפוטנציאל של צ'יפי AMD בלמידת המכונה.
ביקורים באתרי רשת רלוונטיים למידע נוסף על החדשות כוללים:
– MLCommons
– AMD
–NVIDIA
אלו אתרי אינטרנט מספקים הבנה נרחבת יותר על התעשייה, הפרוייקטים הנוכחיים והיכולות של החומרה הרלוונטיים להדרכת AI ומדדי למידת המכונה.