سازمان بنچمارک هوش مصنوعی MLCommons به تازگی مجموعه جامعی از آزمونها و نتایج را منتشر کرده است که سرعت و واکنشپذیری سخت افزارهای با عملکرد بالا در انجام برنامههای هوش مصنوعی را ارزیابی میکند. این بنچمارکهای جدید بر روی اندازهگیری کارایی تراشهها و سیستمهای هوش مصنوعی در تولید پاسخها از مدلهای قوی هوش مصنوعی با دادههای گسترده تمرکز دارند.
نتایج این آزمونها بینشهای ارزشمندی را در مورد سرعتی که برنامههای هوش مصنوعی مثل ChatGPT میتوانند به سوالات کاربران پاسخ دهند، ارائه میدهند. یکی از بنچمارکها، به نام Llama 2، به طور خاص سرعت سناریوهای پرسش و پاسخ برای مدلهای زبان بزرگ را ارزیابی میکند. Llama 2 که توسط پلتفرمهای Meta توسعه یافته است، دارای 70 میلیارد پارامتر قابل توجهی است.
علاوه بر Llama 2، MLCommons همچنین ابزاری دیگر بنچمارک معرفی کرده است به نام MLPerf. این اضافه جدید بر روی تولید متن به تصویر تمرکز میکند و از مدل Stable Diffusion XL شرکت Stability AI استفاده میکند. زمانی که سرورهای تجهیز شده با تراشههای H100 از Nvidia، که توسط شرکتهای معتبری مانند Alphabet شرکت گوگل، Supermicro و خود شرکت Nvidia تولید شده است، ارزیابی شدند، به عنوان برندههای واضح از نظر عملکرد خام در حوزه تولید تصویر ظاهر شدند. به علاوه، سازندگان مختلف سرور طرحهایی بر اساس تراشههای L40S شرکت Nvidia ارائه دادند که در بنچمارک تولید تصویر عملکرد رقابتی ایجاد کردند.
کمپانی Krai، طراحی دیگری را ارائه داد که از یک تراشه هوش مصنوعی Qualcomm برای بنچمارک تولید تصویر استفاده کرد. این تراشه جایگزین نشان داد که مصرف انرژی قابل توجه کمتری نسبت به پردازندههای پیشرفته Nvidia دارد و رویکردی بیشتر از نظر بهره وری انرژی را نشان میدهد. همچنین اینتل طراحی دیگری که شامل تراشههای شتاب دهنده Gaudi2 اینتل بود را ارائه داد و نتایج آن را «قابل اعتماد» نامید.
هر چند عملکرد خام همچنان یک عامل حیاتی در استقرار برنامههای هوش مصنوعی است، اما مصرف انرژی تراشههای پیشرفته هوش مصنوعی یک مشکل مهم برای صنعت است. شرکتهای هوش مصنوعی به تلاش برای توسعه تراشهها میکنند که عملکرد بهینه را ارائه دهند در حالی که مصرف انرژی را کمینه کنند. بنابراین، MLCommons برای اندازهگیری مصرف انرژی یک رده بنچمارکگذاری جداگانه را اختصاص داد.
نتایج بنچمارکهای اخیر اطلاعات مفیدی را برای تولیدکنندگان سخت افزارهای هوش مصنوعی و شرکتهایی که قصد پیادهسازی برنامههای هوش مصنوعی را دارند ارائه میدهند. با برجسته ساختن هم سرعت و هم کارایی، این آزمونها به عنوان یک منبع حیاتی در ترویج پیشرفت فناوری هوش مصنوعی عمل میکنند.
پرسشهای متداول:
The source of the article is from the blog papodemusica.com