Advantech, חברה מובילה בתחום המחשוב המולטימדיאלי, הצטרפה לפייזון אלקטרוניקה, ספק מוביל של בקרי NAND ופתרונות אחסון NAND, לשקת פתרון GenAI שמותאם אישית ליישומים עממיים ותעשייתיים. שיתוף הפעולה האסטרטגי הזה מבטיח ירידה משמעותית בעלויות הצטרפות לביצועי עם לעסקים, יחד עם ביצועים משופרים.
מהפכה בתשתית וביצועי AI
שרתי AI העכשוויים תלויים במידה רבה ב-GPUs עבור צרכי החישוב, בהם מצוי הזיכרון ברוחב פס שעל כרטיסי ה-GPU נחשב גורם קריטי שמקבע את יעילות החישוב הכללית וגודל פרמטרי המודל של AI. פתרון ה-aiDAPTIV+ של פייזון מחדש את חישובי המודל AI, באמצעות טכנולוגיית ה-SSD הפטנטית שלהם לשילוב עם ה-HBM על כרטיסי ה-GPU. השינוי הזה מאפשר אימון של מודלי AI בגודל גדול גם עם מגבלות ב-GPU וב-DRAM, וזה מתאים למארכיטקטורת AI ו-GPUs הנוכחיות בשוק.
עם aiDAPTIV+, חברות יכולות להוריד את עלויות החומרה עבור התשתית של AI, לשפר את יעילות החישוב ולהפחית את דרישות האנרגיה הכוללות. דבר זה מתאים לטרנד הסביבתי הצומח של צמצום צריכת אנרגיה ועקבות פחמן.
דיווח יעודי והורדת עלויות באמצעות AI
מקרה רשותי הוא מודל ה-Llama2 עם 70 מיליארד פרמטרים, שדורש רק שמונה כרטיסי NVIDIA RTX A6000 כדי להשיג שיעור דיוק של 92% במודלי AI סיניים, עם שפות אזרחיות כמו טאיוונזית והקא שעברו 85% דיוק. העלויות המשויכות הן באופן משמעותי יותר זולות, כ-1.5 מיליון דולר ניו טאיבאני, בהשוואה לפתרונות שעשויים לעלות עשרות או אפילו מאות מיליונים.
מבחינת חומרה, שרת המגדל SKY-602E3 של Advantech, עם עבודת מעבד סדרה AMD EPYC 8004, מיועד להתאמה למגוון סביבות. הוא תומך בארבעה חריצי PCIe 5.0 x16 עבור GPUs ושני SSDs PCIe 5.0 M.2 2280 לפעולה אופטימלית עם מהפכת החישוב AI aiDAPTIV+ של Phison. הגמישות שלו מאפשרת להתקין אותו על שולחנות, לתלות בקירות או לקחת ביעילות מרווח של 4U, מדגימה אופטימליות מרווח המקום.
בנוסף, שרת התעשייתי HPC-7420+ASMB-807 מגיע עם מעבד סדרת Intel Xeon W, DDR5 5600 MHz RDIMM, ותמיכה חשובה בחריצי PCIe לטיפול ביישומי AI AOI, לשיפור יעילות קו הייצור ודיוק גילוי פגמים.
למידע נוסף על פתרונות השרת של Advantech, מוזמנים המעוניינים לבקר באתר האינטרנט הרשמי שלהם.
שאלות מרכזיות ותשובות
מהן האתגרים העיקריים הקשורים לפתרונות לביצועי AI לתעשייה ולחיצון?
אחד האתגרים העיקריים הוא הדרישות החישוביות הגבוהות לאימון והפעלת מודלי AI, שמצריכים חומרה יקרה עם GPUs חזקים וקיבות זיכרון גבוהות. אתגר נוסף הוא השילוב של פתרונות AI בסביבות תעשייתיות קיימות, כיוון שהם חייבים להיות תואמים למערכות קיימות ולהיות מסוגלים לפעול תחת תנאים אקראיים אולם. צריכת האנרגיה והשיפוט לחום הן עיקריות נוספות, במיוחד בתרגילי חישוב בקצה, כאשר משאבים מוגבלים.
אילו סתירות מתעוררות בקרב לגבי הפכת AI לשיפור הביצועים להתקן האנדוסטריאלי והחיצון הרחוק?
סתירות פוטנציאליות עשויות לכלול פרטיות ואבטחת נתונים, שכרגע מערכות AI דורשות גישה לנתונים גדולים שעשויים להכיל מידע רגיש. יש גם נושאים אתיים שקשורים לאוטומציה והשפעתה על התעסוקה בענפים שונים. בנוסף, השפעת הסביבה של חישובי AI אנרגטיים גבוהים עלתה חששות.
מהם היתרונות של שימוש בפתרונות חדשניים לשיפור AI?
היתרונות כוללים:
– הנחת עלויות בגלל דרישות חומרה נמוכות יותר והוצאות תפעוליות.
– שיפור ביעילות חישובית ומהירות הדרכת המודלים.
– יכולת לעבוד עם מודלים גדולי גודל עם יכולות חומרה מוגבלות.
– הפחתת צריכת האנרגיה והעקבות פחמן, בתמיכה במטרות הקיימות.
– דיוק משופר ומדויקות ביישומים כמו בדיקת איכות וגילוי פגמים.
מהם החסרונות?
החסרונות עשויים לכלול:
– עלויות גישה ושילוב ראשוניות עשויות להיות גבוהות.
– תלות בפתרונות מתמחים כמו aiDAPTIV+ עשוית להגביל גמישות במקרים מסוימים.
– אתגרים בשמירה על אבטחת הנתונים ודירוג הפרטיות.
– סתירות פוטנציאליות של חומרה ותוכנה מתמחים בעת שהטכנולוגיה מתפתחת במהירות.
לקריאה נוספת על נושאים הקשורים לפתרונות AI החדשניים לשיפורים לתעשייה ולחיצון, שקולים לבקרת המקורות האמינים הבאים:
אדוונטק
פייזון אלקטרוניקה
NVIDIA
AMD
אינטל
ככל הנראה, המאמר מציג את המאמץ השיתופי בין אדוונטק ופייזון אלקטרוניקה לטיפול בחלק מהאתגרים הללו על ידי הפחתת כמוהם של עלויות ההצטרפות לאיי, ולהשפעתם הסביבתית. טכנולוגיית aiDAPTIV+ חיונית למאמץ זה, ומאפשרת לחברות להשתמש בכוח חישובי של AI רב במיוחד גם עם משאבים מוגבלים. בנוסף, פתרונות חומרה כמו השרת המגדל SKY-602E3 של Advantech והשרת התעשייתי HPC-7420+ASMB-807 מיועדים לטיפול בדרישות של חישובי AI תוך התחשבות בגמישות ויעילות.
[הטמע]https://www.youtube.com/embed/ZM2J0eyca8Y[/הטמע]
The source of the article is from the blog maltemoney.com.br