تبرز التحسينات الأخيرة في أداء NVIDIA في مؤشرات MLPerf استمرارية تفوقها في مجال الذكاء الاصطناعي الإنشائي. بفضل معمارية Hopper GPUs التي تعمل بتقنية TensorRT-LLM، حققت NVIDIA زيادة ملحوظة بنسبة 3 أضعاف في الأداء على GPT-J LLM مقارنة بالنتائج منذ ستة أشهر. تظهر هذه التحسينات التزام NVIDIA بتحسين النماذج وترسيخ مكانتها في الصناعة.
تعتبر TensorRT-LLM من NVIDIA أداة متخصصة مصممة لتبسيط مهام الإستنتاج لنماذج اللغة الكبيرة (LLMs). تسهل هذه الأداة نشر منصة الإستنتاج من NVIDIA وتوفر للشركات كفاءة ومرونة لا مثيل لهما. من خلال استغلال TensorRT-LLM، يمكن للشركات تحسين نماذجهم وتحقيق مكاسب أداء مذهلة.
كما أظهرت مؤشرات MLPerf قدرات أحدث H200 Tensor Core GPUs من NVIDIA عند تشغيل TensorRT-LLM. حققت هذه الـ GPUs الغنية بالذاكرة، التي جاءت لأول مرة في ساحة MLPerf، إنتاجية استثنائية، وتولد ما يصل إلى 31،000 رمز في الثانية في اختبار Llama 2 70B. تظهر هذه الـ GPUs المحسنة بالذاكرة التزام NVIDIA بتوفير أجهزة عالية الأداء لتطبيقات الذكاء الاصطناعي الإنشائي.
بالإضافة إلى الزيادات في الأداء، قامت NVIDIA أيضًا بخطوات كبيرة في إدارة الحرارة مع H200 GPUs الخاصة بها. ساهمت الحلول المخصصة في إدارة الحرارة في زيادة أداء يصل إلى 14%. العاملون في تصميمات NVIDIA MGX قد زادوا من قدرات الأداء لـ Hopper GPUs بشكل إضافي.
بدأت NVIDIA بالفعل شحن H200 GPUs إلى ما يقرب من 20 من بناة الأنظمة البارزين ومزودي خدمات السحاب. مع عرض نطاق الذاكرة الذي يبلغ ما يقرب من 5 تيرابايت/الثانية، تقدم هذه GPUs أداءً استثنائيًا، خصوصًا في تقييمات MLPerf التي تعتمد بشكل كبير على الذاكرة مثل أنظمة التوصية.
يظهر التفاني الذي تبذله NVIDIA في كفاءة الحلول العالية الأداء في تبنيها لتقنيات مثل الانتشار المنظم. من خلال استخدام الانتشار المنظم لتقليل العمليات الحسابية، حقق مهندسو NVIDIA تحسينات في السرعة تصل إلى 33% في الإستنتاج مع Llama 2. يظهر ذلك التفاني للشركة في تقديم حلول الذكاء الاصطناعي بكفاءة وأداء عالٍ.
نظرًا للمستقبل، كشف مؤسس NVIDIA والرئيس التنفيذي، جينسن هوانغ، خلال مؤتمر GTC الأخير أن NVIDIA Blackwell architecture GPUs القادمة ستقدم مستويات أداء أعلى. ستصمم هذه الـ GPUs خصيصًا لتلبية الطلبات المتزايدة على النماذج الكبيرة للغات، ممكنة التدريب والاستنتاج لنماذج الذكاء الاصطناعي بعدة تريليونات.
للمزيد من المعلومات حول تقدمات NVIDIA في مجال الذكاء الاصطناعي الإنشائي ومؤشرات MLPerf، قم بزيارة [الموقع الرسمي لـ NVIDIA](https://www.nvidia.com).
The source of the article is from the blog anexartiti.gr