Организация по бенчмаркингу искусственного интеллекта MLCommons недавно опубликовала обширный набор тестов и результатов, оценивающих скорость и отзывчивость высокопроизводительного оборудования в работе с приложениями искусственного интеллекта. Эти новые добавленные бенчмарки фокусируются на измерении эффективности чипов и систем искусственного интеллекта в генерации ответов от устойчивых моделей искусственного интеллекта, обогащенных обширными данными.
Результаты этих тестов предоставляют ценные исследования о скорости, с которой приложения искусственного интеллекта, такие как ChatGPT, могут предоставлять ответы на запросы пользователей. Один из бенчмарков, названный Llama 2, специально оценивает скорость сценариев вопросов и ответов для больших языковых моделей. Разработанный Meta Platforms, Llama 2 поражает впечатляющим количеством в 70 миллиардов параметров.
MLCommons также представила еще один инструмент для бенчмаркинга в своем арсенале, названный MLPerf. Это дополнение фокусируется на генерации текста в изображения и использует модель Stable Diffusion XL от Stability AI. При оценке серверов, оборудованных чипами Nvidia H100 от таких уважаемых компаний, как Google’s Alphabet, Supermicro и самой Nvidia, явно выделялись как явные победители с точки зрения сырой производительности. В отличие от этого, различные производители серверов представили дизайны на основе чипов Nvidia L40S, которые менее мощные, но все же держались хорошо в бенчмарке по генерации изображений.
Krai, производитель серверов, пошел по другому пути, представив дизайн, который использует чип искусственного интеллекта Qualcomm для бенчмарка по генерации изображений. Этот альтернативный чип потреблял значительно меньше энергии по сравнению с передовыми процессорами Nvidia, демонстрируя более энергоэффективный подход. Кроме того, Intel также представил дизайн с ускорителями Gaudi2, назвав результаты «прочными».
Хотя сырая производительность остается важным фактором для развертывания приложений искусственного интеллекта, энергопотребление передовых чипов искусственного интеллекта является значительной проблемой для отрасли. Компании, работающие в области искусственного интеллекта, стремятся разработать чипы, которые предлагают оптимальную производительность при минимизации потребления энергии. Следовательно, у MLCommons есть отдельная категория бенчмаркинга по измерению потребления энергии.
Эти последние результаты бенчмаркинга предоставляют ценную информацию как производителям аппаратного обеспечения для искусственного интеллекта, так и компаниям, стремящимся реализовать приложения искусственного интеллекта. Подчеркивая как скорость, так и эффективность, эти тесты служат важным ресурсом для продвижения развития технологий искусственного интеллекта.
### FAQ:
Q: Какие новые бенчмарки ввела MLCommons?
A: MLCommons представила бенчмарки, измеряющие скорость и эффективность чипов и систем искусственного интеллекта в генерации ответов от мощных моделей искусственного интеллекта, а также бенчмарк для генерации текста в изображения.
Q: Какие серверы продемонстрировали исключительные результаты в бенчмарках?
A: Серверы, оснащенные чипами Nvidia H100, построенные компаниями, такими как Google’s Alphabet, Supermicro и самой Nvidia, проявили выдающуюся производительность в тестах.
Q: Показали ли какие-либо дизайны с альтернативными чипами перспективные результаты?
A: Да, производитель серверов по имени Krai представил дизайн с чипом искусственного интеллекта Qualcomm, который продемонстрировал значительную энергоэффективность в бенчмарке по генерации изображений.
Q: Почему потребление энергии важное соображение для компаний, работающих в области искусственного интеллекта?
A: Продвинутые чипы искусственного интеллекта потребляют значительное количество энергии, что делает энергоэффективность ключевой проблемой для компаний, стремящихся оптимизировать производительность при минимизации потребления энергии.
Q: Какие преимущества принесли эти бенчмарки отрасли искусственного интеллекта?
A: Результаты бенчмаркинга предоставляют ценные исследования как производителям аппаратного обеспечения для искусственного интеллекта, так и компаниям, внедряющим приложения искусственного интеллекта, способствуя развитию и совершенствованию технологий искусственного интеллекта.
The source of the article is from the blog j6simracing.com.br