MLCommons, консорциум, в который входят крупные игроки рынка, такие как Amazon, AMD, Google, Intel и Nvidia, выпустил четвертое издание своих стандартов бенчмарков обучения MLPerf, сосредоточенных на масштабировании обучения искусственного интеллекта. Новый раунд представляет новые бенчмарки, такие как дообучение крупных языковых моделей и графовых нейронных сетей. Заметным является участие Sustainable Metal Cloud (SMC), обозначающее включение измерения энергопотребления через 24 заявки, направленные на выделение потенциала экономии энергии их технологии иммерсионного охлаждения.
Среди различных участников маленьким, но заметным вкладом отличилась компания tinycorp под руководством бывшего хакера Джорджа Хотца, которая заняла свою нишу в области ускорения искусственного интеллекта, внося первые из чипов AMD в MLPerf Training v4.0. В отличие от обычного доминирования ускорителей Nvidia H100, tinycorp продемонстрировала результаты для tinybox red с шестью графическими процессорами Radeon RX 7900 XTX и tinybox green, оснащенной видеокартами Nvidia GeForce RTX 4090.
Время завершения бенчмарка для tinybox red составило 167,15 минут, в то время как зеленый вариант показал 122,08 минут, демонстрируя потенциал для улучшения по сравнению со установленными стандартами, установленными выделенными ускорителями центров обработки данных. Несмотря на более длительные времена, компания tinycorp стремится подчеркнуть экономические выгоды, полагаясь на преимущество стоимости, которое в конечном итоге может перейти в реальные финансовые выгоды, где время равно деньги.
Обещание Хотца интегрировать ускорители AMD в MLPerf к 2024 году было выполнено. На веб-сайте tinycorp tinybox green (Nvidia) указана цена в $25 000 с отличным качеством драйверов, а tinybox red (AMD) — за $15 000, хотя с лишь средним качеством драйверов и оба с сроком доставки от двух до пяти месяцев. Несмотря на выраженное ранее разочарование Хотца касательно фреймворка ROCm от AMD, оптимистический взгляд на будущие улучшения теперь, похоже, разделяется как самим Хотцом, так и генеральным директором AMD Др. Лизой Су после их обсуждений.
Полугодовые соревнования по бенчмаркингу MLPerf позволяют различным производителям продемонстрировать свои возможности обучения моделей искусственного интеллекта через целый ряд задач, непрерывно толкая пределы технологий и производительности.
Участие tinycorp Джорджа Хотца в бенчмарках MLPerf по обучению с чипами AMD значимо по нескольким причинам. Оно показывает, что меньшие участники могут участвовать в области, кем-то доминируемой технологическими гигантами, и что графические процессоры AMD, зачастую затемненные всем известным лидерством Nvidia в ускорении искусственного интеллекта, также могут быть достойными для задач искусственного интеллекта.
Основные вопросы, связанные с участием tinycorp в бенчмарках обучения MLPerf, включают в себя:
1. В чем отличия чипов AMD в tinybox red по сравнению с ускорителями Nvidia H100 и картами Nvidia GeForce RTX 4090 по производительности?
2. Каковы экономические выгоды использования чипов AMD для обучения искусственного интеллекта, выделенные компанией tinycorp?
3. Какие потенциальные улучшения могут принести партнерство между Джорджем Хотцем и генеральным директором AMD, доктором Лизой Су, в рамках фреймворка ROCm от AMD?
Основные вызовы и спорные вопросы, связанные с данной темой включают:
— Текущее вызов AMD в улучшении своего фреймворка ROCm и качества драйверов для более эффективной конкуренции на фоне известной экосистемы Nvidia.
— Ранее выраженная контроверсия Джорджа Хотца относительно качества поддержки машинного обучения AMD через фреймворк ROCm.
Преимущества участия tinycorp в MLPerf Benchmark включают:
— Предоставление более экономически выгодной альтернативы для обучения искусственного интеллекта с использованием графических процессоров AMD в tinybox red.
— Стимулирование конкуренции в рынке, сильно доминируемом Nvidia, что может привести к большему разнообразию и потенциальным снижениям цен.
— Добавление в более широкое понимание возможностей и производительности различных вариантов графических процессоров, доступных для задач машинного обучения.
Недостатки могут включать:
— Возможность, что производительность чипов AMD отстает от Nvidia, что может повлиять на эффективность и производительность в задачах машинного обучения.
— Нынешнее среднее качество драйверов чипов AMD для приложений искусственного интеллекта, что может увеличить сложность и время, затрачиваемое на разработку и устранение неисправностей.
— Необходимость ожидания будущих улучшений фреймворка ROCm для полного раскрытия потенциала чипов AMD в машинном обучении.
Для получения дополнительной информации по этой новости рекомендуется посетить следующие веб-сайты:
— MLCommons
— AMD
— NVIDIA
Эти веб-сайты предоставляют более широкие представления об отрасли, текущих проектах и аппаратных возможностях, относящихся к обучению искусственного интеллекта и бенчмаркам машинного обучения.