Ambarella, חברת סמיקונדקטור AI של שולת שרף, מציגה את LLMs המרובים מודלים הידועים גם בשמות דג הדגם – N1 SoC בסדרת ה-N1 SoC החדשה שלה. ה-N1 SoC מספקים יעילות חשמל להבנה של הלכת חישוב בהשוואה לפתרונות ה-GPU המובילים, דבר שמאפשר התקנת טכנולוגיית AI יצירתית במכשירי קצה על הקיצוניים ובחומרת הטכנולוגיה שבעקבותיה. היישומים לטכנולוגיה זו מתייחסים למגוון תעשיות, כולל ניתוח אבטחת הווידאו, רובוטיקה ויישומים תעשייתיים.
יכולות הביצועים המתקדמות של עיבוד AI היצירתי של Ambarella יהיו זמינות בראשונה ב-SoCs מרכזיות ואיכותיות ביותר, העונות על דרישות כוח שונות. יעילות העיבוד של SoCs של Ambarella עשויה להיות עד 3 פעמים יותר יעילה מבחינת צריכת הכח לכל אחד מהאגרופים הנוצרים ביחס למעבדי ה-GPU ולמתאצלצים התחרותיים האחרים. דבר זה מאפשר פתרונות התקנים כלכליים ושלב יישום מיידי בתוך המוצרים.
על פי Les Kohn, הטכנולוגי והמייסד המשתף של Ambarella, המשפיעים של רשתות AI יצירתיות מהפכים את תכונות ההתקנים בקצה. סדרת ה-SoCs המכילה אווינטים מסוג N1 מציעה עיבוד של LLM מרובה מודלים מרתק עם ביצועים גבוהים ביחס כוח/מחיר מעניינת.
האנליסט הקרינציפלי המתקדם Alexander Harrowell מנבא כי טכנולוגיה AI יצירתית תשפר את כל יישום קצה בתחום ה-18 חודשים הקרובים. המוקד יזוז לכיוון ביצועים לוגיסטיים חשמל-לוגיים ולאינטגרציה בתוך המערכת בקצה, במקום ביצוע זרמים גולשים שקפוצים.
SoCs של AI של Ambarella נתמכים על ידי פלטפורמת הפיתוח של Cooper, ומודלים LLM מוגים ומותאמים מראש, כגון Llama-2 ו-LLava, זמינים להורדה מ- Cooper Model Garden. SoCs הם ממומנים לעיבוד וכן לעיבוד אינטיליגנציה מלמדת בצריכת חשמל נמוכה, המיידת אותם במיוחד ליישומים שמחייבים קלט חזותי והבנת דבר טבעית.
עם הפעלת תהליכי עיבוד AI יצירתי, ניתן להשתמש בשיפור הבנה להקשר וודאות וניתוח תמונות של מערכות כמו מערכי אבטחת הצילום, רובוטים וציוד תעשייתי. מערכות אלו תלויות בקלט המצלמה ובעיבוד השפה הטבעית, ועיבוד על המכשיר מבטיח מהירות, פרטיות וחיסכון בעלות. SoCs של Ambarella מציעים פתרון מקומי לעיבוד שמותאם לסקירות יישום ספציפיות, תוך עידוד ההתאמה והיעילות.
The source of the article is from the blog klikeri.rs