Kevin TopolskyNVIDIA har återigen höjt ribban inom världen av artificiell intelligens med sina toppmoderna plattformar som visar exceptionell prestanda. Den senaste omgången av tester utförda av BenchMark, som fokuserade på inferensstadiet, lyfte fram de anmärkningsvärda kapaciteterna hos den nya GPU-plattformen som heter NVIDIA Blackwell. Denna senaste plattform överträffade NVIDIA Hopper-arkitekturen med en imponerande faktor på fyra i den största arbetsbelastningen för en stor språkmodell i MLPerf – Llama 2 70B.
Vidare utmärkte sig NVIDIA H200 Tensor Core GPU i alla tester inom datacenterkategorin, inklusive det senaste tillskottet till MLPerf – Mixtral 8x7B Mixture of Experts språkmodell med 46,7 miljarder parametrar.
Dessutom betonade NVIDIA att deras datorplattformar kontinuerligt utvecklas, med förbättrad prestanda och funktioner på månadsbasis. Inom MLPerf Inference V4.1 visade företagets plattformar – inklusive NVIDIA Hopper-arkitekturen, NVIDIA Jetson-plattformen och Triton Inference Server-programvaran – betydande framsteg i prestanda och kapacitet.
NVIDIA H200-plattformen visade en anmärkningsvärd 27% prestandaförbättring inom Generative AI jämfört med tidigare tester, vilket understryker det mervärde som kunderna får över tiden genom sin investering i NVIDIAs plattformar.
