Організація з оцінки штучного інтелекту MLCommons недавно опублікувала комплексну серію тестів та результати, які оцінюють швидкість та реакцію високопродуктивного обладнання при запуску програм штучного інтелекту. Ці тести фокусуються на вимірюванні ефективності чіпів та систем штучного інтелекту у генеруванні відповідей з міцних моделей штучного інтелекту, які насичені обширними даними.
Результати цих тестів надають цінні уявлення про те, наскільки швидко програми штучного інтелекту, такі як ChatGPT, можуть давати відповіді на запитання користувачів. Одним з тестів, під назвою Llama 2, спеціально оцінюється швидкість сценаріїв питань та відповідей для великих мовних моделей. Розроблений Meta Platforms, Llama 2 вражає своїми 70 мільярдами параметрів.
Крім Llama 2, MLCommons також представив інший інструмент для оцінки, під назвою MLPerf. Цей новий додаток фокусується на генерації текстів у зображення та використовує модель Stable Diffusion XL від Stability AI. При оцінці, сервери з чіпами Nvidia H100, виготовлені такими відомими компаніями, як Google’s Alphabet, Supermicro та сама Nvidia, виявилися чіткими переможцями за силою продуктивності. У той же час, різні конструктори серверів подали свої проекти на базі чіпів Nvidia L40S, які були менш потужними, але все ще зайняли своє місце в рейтингу з генерацією зображень.
Krai, конструктор серверів, обрав інший шлях, подавши проект, який використовував чіп штучного інтелекту від Qualcomm для тестування з генерації зображень. Цей альтернативний чіп спожив значно менше енергії порівняно з передовими процесорами Nvidia, показуючи більш енергоефективний підхід. Intel також подала дизайн зі своїми прискорюючими чіпами Gaudi2, виславши результат як “стабільний”.
Хоча сила продуктивності лишається важливим чинником для впровадження програм штучного інтелекту, споживання енергії передових чіпів штучного інтелекту є значущою проблемою для галузі. Підприємства зі штучного інтелекту прагнуть розробляти чіпи, які пропонують оптимальну продуктивність, мінімізуючи споживання енергії. В результаті MLCommons має окремий розділ для вимірювання споживання енергії.
Ці найновіші результати тестувань надають цінну інформацію як виробникам апаратного забезпечення для штучного інтелекту, так і компаніям, які прагнуть впровадити програми штучного інтелекту. Ці тести є важливим ресурсом для просування технології штучного інтелекту, підкреслюючи як швидкість, так і ефективність.
Для отримання додаткової інформації про MLCommons та їх тести відвідайте офіційний сайт: mlcommons.org.
Частково позичено з: youtube.com.
Часто Задавані Питання
The source of the article is from the blog zaman.co.at