L’organisation de référence en matière d’évaluation des performances de l’intelligence artificielle, MLCommons, a récemment publié un ensemble complet de tests et de résultats évaluant la vitesse et la réactivité du matériel haute performance dans l’exécution d’applications d’IA. Ces nouveaux benchmarks se concentrent sur la mesure de l’efficacité des puces et des systèmes d’IA dans la génération de réponses à partir de modèles d’IA robustes enrichis de données étendues.
Les résultats de ces tests offrent des informations précieuses sur la rapidité avec laquelle les applications d’IA, telles que ChatGPT, peuvent fournir des réponses aux requêtes des utilisateurs. MLCommons a introduit un des benchmarks, appelé Llama 2, évaluant spécifiquement la vitesse des scénarios de questions-réponses pour de grands modèles linguistiques. Développé par Meta Platforms, Llama 2 se distingue par ses impressionnants 70 milliards de paramètres.
En plus de Llama 2, MLCommons a également ajouté MLPerf, un outil d’évaluation se concentrant sur la génération de texte en image. Ce benchmark utilise le modèle Stable Diffusion XL de Stability AI. Les serveurs équipés de puces Nvidia H100, fabriqués par des entreprises renommées comme Google’s Alphabet, Supermicro et Nvidia lui-même, se sont révélés être les grands gagnants en termes de performances brutes dans le benchmark de génération de texte en image. D’autre part, différents constructeurs de serveurs ont soumis des designs basés sur les puces L40S de Nvidia, qui ont également affiché des performances compétitives dans le même benchmark.
Krai, un constructeur de serveurs, a adopté une approche différente en proposant un design utilisant une puce IA Qualcomm pour le benchmark de génération d’images. Cette puce alternative a montré une plus grande efficacité énergétique par rapport aux processeurs de pointe de Nvidia, mettant en avant une approche plus respectueuse de l’environnement. Intel a également soumis un design mettant en avant ses puces d’accélération Gaudi2, obtenant des résultats solides lors des tests.
Alors que les performances brutes restent un facteur essentiel dans le déploiement des applications d’IA, la consommation énergétique des puces d’IA avancées reste une préoccupation majeure pour l’industrie. Les entreprises d’IA s’efforcent de développer des puces offrant des performances optimales tout en minimisant la consommation d’énergie. MLCommons reconnaît cette problématique et dispose d’une catégorie d’évaluation supplémentaire dédiée à la mesure de la consommation énergétique.
Ces derniers résultats de benchmark fournissent des informations précieuses à la fois pour les fabricants de matériel d’IA et pour les entreprises cherchant à mettre en œuvre des applications d’IA. En mettant l’accent à la fois sur la vitesse et l’efficacité, ces tests servent de ressource essentielle pour promouvoir l’avancement de la technologie de l’IA.
Pour plus d’informations sur MLCommons et leurs benchmarks, visitez leur site officiel : mlcommons.org.
FAQ:
Q: Quels sont les nouveaux benchmarks introduits par MLCommons ?
A: MLCommons a introduit des benchmarks mesurant la vitesse et l’efficacité des puces et systèmes d’IA dans la génération de réponses à partir de modèles d’IA puissants, ainsi qu’un benchmark pour la génération de texte en image.
Q: Quels serveurs ont excellé dans les benchmarks ?
A: Les serveurs équipés de puces Nvidia H100, construits par des entreprises telles que Google’s Alphabet, Supermicro et Nvidia lui-même, ont affiché des performances exceptionnelles aux tests.
Q: Des designs mettant en avant des puces alternatives ont-ils donné des résultats prometteurs ?
A: Oui, un constructeur de serveurs nommé Krai a présenté un design avec une puce IA Qualcomm qui a démontré une efficacité énergétique considérable dans le benchmark de génération d’images.
Q: Pourquoi la consommation énergétique est-elle une considération importante pour les entreprises d’IA ?
A: Les puces avancées d’IA consomment des quantités substantielles d’énergie, faisant de l’efficacité énergétique un défi majeur pour les entreprises d’IA cherchant à optimiser les performances tout en minimisant la consommation électrique.
Q: Comment ces benchmarks profitent-ils à l’industrie de l’IA ?
A: Les résultats des benchmarks offrent des insights précieux pour les fabricants de matériel d’IA et les entreprises mettant en œuvre des applications d’IA, contribuant à l’avancement et au développement de la technologie de l’IA.
The source of the article is from the blog radiohotmusic.it