Kevin TopolskyA NVIDIA mais uma vez elevou o padrão no mundo da inteligência artificial com suas plataformas de ponta que demonstram desempenho excepcional. A recente rodada de testes realizada pelo BenchMark, focando na etapa de inferência, destacou as capacidades notáveis da nova plataforma de GPU chamada NVIDIA Blackwell. Esta última plataforma superou a arquitetura NVIDIA Hopper por um fator impressionante de quatro na maior carga de trabalho para um grande modelo de linguagem no MLPerf – Llama 2 70B.
Além disso, a GPU TensorFlow Core NVIDIA H200 se destacou em todos os testes na categoria de data center, incluindo a mais recente adição ao MLPerf – Modelo de linguagem Mixture of Experts Mixtral 8x7B com 46,7 bilhões de parâmetros.
Além disso, a NVIDIA enfatizou que suas plataformas de computação estão em constante evolução, demonstrando melhorias de desempenho e recursos a cada mês. No âmbito do MLPerf Inference V4.1, as plataformas da empresa – incluindo a arquitetura NVIDIA Hopper, a plataforma NVIDIA Jetson e o software Triton Inference Server – apresentaram avanços significativos em desempenho e capacidades.
A plataforma NVIDIA H200 mostrou uma notável melhoria de desempenho de 27% em IA generativa em comparação com o teste anterior, destacando o valor agregado que os clientes recebem ao longo do tempo devido ao investimento nas plataformas da NVIDIA.
[…continua]
