Advantech، پیشرو جهانی در محاسبات لبه، با Phison Electronics، ارائه‌دهنده برجسته کنترل‌کننده‌های NAND و راه‌حل‌های ذخیره‌سازی NAND، همکاری کرده‌اند تا یک راه‌حل GenAI مناسب برای کاربردهای لبه و صنعتی راه‌اندازی کنند. این همکاری استراتژیک نقش مهمی در کاهش قابل توجه هزینه‌های انتقال هوش مصنوعی برای کسب‌وکارها، به‌همراه بهبود عملکرد دارد.
انقلاب زیرساخت و کارایی هوش مصنوعی
سرورهای هوش مصنوعی مدرن به‌طور قابل توجهی به GPUها برای نیازهای محاسباتی وابسته است؛ در آنجا که حافظه با پهنای باند بالا (HBM) روی کارت‌های GPU عامل بحرانی در تعیین کارایی کلی محاسبات و اندازه‌گیری پارامترهای مدل‌های هوش مصنوعی است. راه‌حل aiDAPTIV+ شرکت Phison محاسبات مدل‌های هوش مصنوعی را با استفاده از فناوری اختصاصی SSD خود با HBM روی کارت‌های GPU ادغام می‌کند. این پیشرفت اجازه آموزش مدل‌های AI مقیاس بزرگ حتی با منابع GPU و DRAM محدود را می‌دهد و به‌طور کامل با معماری‌ها و GPUهای فعلی در بازار سازگار است.
با aiDAPTIV+، شرکت‌ها می‌توانند هزینه‌های سخت‌افزاری برای زیرساخت هوش مصنوعی را کاهش دهند، کارایی محاسباتی را ارتقاء بخشند و نیازهای انرژی کلی را کاهش دهند. این با جریان رو به رشد محیط زیستی در کاهش مصرف انرژی و اثر کربن پا لازم هماهنگ است.
دقت و کاهش هزینه‌های هوش مصنوعی
مدل Llama2 با ۷۰ میلیارد پارامتر، تنها به هشت کارت NVIDIA RTX A6000 برای دستیابی به نرخ دقت ۹۲ درصد در مدل‌های هوش مصنوعی چینی نیاز دارد که لهجه‌های منطقه‌ای مانند تایوانی و هاکا با دقت بیشتر از ۸۵ درصد را فراهم می‌کند. هزینه‌های مرتبط به طور چشمگیری ارزان‌تر هستند که در حدود ۱.۵ میلیون دلار تایوانی می‌باشد، نسبت به راهکارها که ممکن است ده‌ها یا حتی صد میلیون دلار هزینه داشته باشند.
در زمینه سخت‌افزار، سرور برج SKY-602E3 شرکت Advantech با پردازنده سری AMD EPYC 8004 طراحی‌شده برای میزبانی انواع محیط‌هاست. این سرور چهار شیار PCIe 5.0 x16 برای GPUها و دو حافظه اس‌اس‌دی PCIe 5.0 M.2 2280 برای عملکرد بهینه با ارچیتکتور محاسباتی هوش مصنوعی aiDAPTIV+ شرکت Phison را پشتیبانی می‌کند. چنین چند‌جانبه‌ای امکان نصب روی میزها، نصب بر روی دیوارها یا به بهره‌ور گیری از فضای رک 4U را دارد و کارآیی فضای استثنایی خود را ابراز می‌کند.
علاوه بر این، سرور صنعتی HPC-7420+ASMB-807 مجهز به پردازنده سری Intel Xeon W، DDR5 5600MHz RDIMM و پشتیبانی بزرگ از شیار PCIe جهت اداره برنامه‌های هوش مصنوعی AOI، کارایی خط تولید تولید و دقت شناسایی خطاها را افزایش می‌دهد.
برای کسب اطلاعات بیشتر درباره راه‌حل‌های سرور شرکت Advantech، از علاقه‌مندان تشویق می‌شود تا وب‌سایت رسمی آنها را مشاهده کنند.
The source of the article is from the blog krama.net