במאמר קודם, דגשנו על כרטיס המסך NVIDIA L40S כאלטרנטיבה מעניינת לכרטיסי המסך NVIDIA A100 ו-H100, המציעה יתרונות ברורים ביחס למחיר, היכולת והביצועים. על מנת לנתח את הנושא בצורה מעמיקה יותר, הפקנו סרטון המציג את L40S בפעולה במהלך ביקורנו אצל Supermicro.
L40S מייצג שדרוג משמעותי משמעותי מהגרסה הקודמת שלו, ה-L40, במיוחד באימון ובהוכחה של תוכניות המבינות על המידע (AI). אף על פי שיש להם שורשים משותפים, ניתן לראות בבירור שה-L40S מביא שדרוגים ייחודיים למגרש.
אף על פי שה-L40S וה-L40 יכולים לא לעמוד בהתחרות עם ה-A100 וה-H100 ביחס לקיבולת הזכרון המוחלשת, מהירות הנתונים וביצועי ה-FP64, שצריכים אך ורק לחישובים מסוימים, של המערכת המרכזית של AI, יחד עם העובדה שרוב משתמשים אינם צריכים דיוק כזה לחלוטין.
אף על פי שה-L40S יכול ייראה כאילו יש לו פחות זכרון מה-A100, הוא תומך צורך כל ה-L40S, משתמש בממוצע ב-20% מכמות הזכרון שצריך ה-A100, מולמן ישהו לשמירה על ביצועים דומים. קידוד ופיענוח וידאו ב-NVIDIA, מחברת מובירים הייחודיות במיוחד למערכות וויזואליזציה, ה- H100, לעומת זאת, מתקדמת בתרגום היישומי והמסגרתית.
בניגוד לH100 המהיר, מחירו עוקב אחריו בצורה מובהקת. כיום, ה-H100 יוקר פיפולר ב-2.6 פעמים מה-L40S לפי מחירים ציבוריים שמפורטים על כן.
יתרון נוסף עשוי להיות השקיפות של ה-L40S. ניתן למצוא מערכות מניה בצורה שפויה יותר בהשוואה ל-Nvidia H100 שדורשת עמידה בתור לקניה.
דיון נוסף על הפרסום הראשי מעיר התרשום המגוון בסריקות משנה לצרכים ברחבי תחומי התקציב והזכרון לאמינותי טיב התיאום בין הגרסאות ה-L40S. מחשבים משתמשים במערכות כאלה של הF40 לסריקות משנה והתקנות מחדר הלילה של הMX עם עלויות מועטות יותר ממערכות VGPU המפורסמות. כאשר מגיע זמן לתחזוקת המערכות כאלה, ולעבודות עם המקדם ספרתי בפרסום של העבודה החשבונית למערכות שבתיות גבהה.
דוגמה למערכת המתאימה בדיוק לשימושים אלה היא ה-Supermicro SYS-521GE-TNRT.
במסקנה, ה-L40S של NVIDIA הוא כרטיס מסך מעניין, זמין בנוחות עם יכולות הערות שמפספסות ל-H100 וה-A100. גם אם הוא אינו כמובן משרת את מי שצריך בדיוק חישובים אפילו ב-10 פעמים, הוא שומר על מילון שלם, מכיוון שכיום רוב המשתמשים אינם זקוקים לדיוק.
The source of the article is from the blog foodnext.nl