人工智能基准测试组织MLCommons最近发布了一套全面的测试和结果，评估高性能硬件在运行AI应用程序时的速度和响应能力。这些新添加的基准测试重点评估AI芯片和系统在生成来自经过充分数据丰富的强大AI模型的响应时的效率。
这些测试结果提供了有关AI应用程序（如ChatGPT）提供响应给用户查询的速度的宝贵见解。其中一项名为Llama 2的基准测试专门评估了大型语言模型问答方案的速度。由Meta Platforms开发，Llama 2拥有惊人的700亿参数。
MLCommons还向他们的套件引入了另一个基准测试工具，名为MLPerf。这个新添加的基准测试专注于文本到图像的生成，使用了Stability AI的Stable Diffusion XL模型。在评估中，装备了Nvidia的H100芯片的服务器（由Google的Alphabet、Supermicro和Nvidia等知名公司制造）在原始性能方面脱颖而出。相比之下，各种服务器制造商提交了基于Nvidia的L40S芯片的设计，虽然性能较弱，但在图像生成基准测试中仍表现出色。
Krai是一家服务器制造商，采用了一种不同的方式，提交了一种设计，利用了高通AI芯片进行图像生成基准测试。与Nvidia最先进的处理器相比，这种替代芯片明显消耗更少的能量，展示了一种更节能的方法。Intel也提交了一种采用其Gaudi2加速器芯片的设计，称赞结果“稳固”。
尽管原始性能在部署AI应用程序中仍然是一个至关重要的因素，但先进AI芯片的能耗对该行业来说是一个重要问题。AI公司努力开发能够提供最佳性能同时最大限度减少能源消耗的芯片。因此，MLCommons设立了一个专门的基准测试类别，专门用于测量能源消耗。
这些最新的基准测试结果为AI硬件制造商和寻求实施AI应用程序的公司提供了宝贵信息。通过突出速度和效率，这些测试成为推动AI技术发展的重要资源。
常见问题：
Q: MLCommons引入了哪些新基准测试？
A: MLCommons引入了专门衡量AI芯片和系统在生成强大AI模型响应时的速度和效率的基准测试，以及用于文本到图像生成的基准测试。
Q: 哪些服务器在基准测试中表现出色？
A: 装备了Nvidia的H100芯片的服务器，由Google的Alphabet、Supermicro和Nvidia等公司制造，在测试中表现出色。
Q: 是否有采用替代芯片设计的方案展示了有希望的结果？
A: 是的，一家名为Krai的服务器制造商提交了采用高通AI芯片设计，在图像生成基准测试中展现出显著的能效。
Q: AI公司为何重视能耗问题？
A: 先进的AI芯片消耗大量能源，使得能源效率成为AI公司在优化性能同时最大程度减少能源使用方面的关键挑战。
Q: 这些基准测试如何有益于AI行业？
A: 基准测试结果为AI硬件制造商和实施AI应用程序的公司提供了宝贵见解，有助于推动AI技术的发展。
欲了解更多关于MLCommons及其基准测试的信息，请访问其官方网站：mlcommons.org。
The source of the article is from the blog macnifico.pt