Организацията за измерване на изкуствен интелект MLCommons скоро публикува обширен набор от тестове и резултати, които оценяват скоростта и отзивчивостта на високопроизводителния хардуер в изпълнението на AI приложения. Тези тестове се фокусират на измерването на ефективността на AI чиповете и системите в генерирането на отговори от устойчиви AI модели, обогатени с обширни данни.
Резултатите от тези изпитания предоставят ценни идеи за скоростта, с която AI приложения като ChatGPT могат да доставят отговори на заявките на потребителите. MLCommons представи бенчмаркът Llama 2, който специално оценява скоростта на сценариите за въпроси и отговори за големи езикови модели. Разработен от Meta Platforms, Llama 2 разполага с впечатляващите 70 милиарда параметра.
Освен Llama 2, MLCommons въведе също MLPerf, инструмент за измерване, фокусиран върху генерирането на текст към изображение. Този бенчмарк използва модела Stable Diffusion XL на Stability AI. Сървърите, оборудвани с чипове Nvidia H100, произведени от компании като Google, Supermicro и самата Nvidia, излязоха като ясните победители в смисъл на сурово изпълнение в бенчмарка за генериране на текст към изображение. Различни сървърни производители също представиха дизайни, базирани на чиповете Nvidia L40S, които демонстрираха конкурентоспособност в същия бенчмарк.
Край, производител на сървъри, избра различен подход, като представи дизайн, който използва Qualcomm AI чип за бенчмарка за генериране на изображения. Този алтернативен чип показва по-голяма енергийна ефективност в сравнение с процесорите на Nvidia, подчертавайки по-екологичен подход. Също така, Intel представи дизайн със своите ускорители Gaudi2, които постигат стабилни резултати в тестовете от бенчмарка.
Въпреки че суровото изпълнение остава критичен фактор за внедряването на AI приложения, енергийната консумация на напредналите AI чипове е значителна загриженост за индустрията. Компаниите по изкуствен интелект се стремят да разработват чипове, които предлагат оптимално изпълнение, като намаляват използваната енергия. MLCommons признава този проблем и разполага със самостоятелна категория за измерване на енергийната консумация.
Тези последни резултати от бенчмарк тестовете предоставят ценна информация както за производителите на AI хардуер, така и за компаниите, които търсят начини да внедрят AI приложения. Чрез подчертаване както на скоростта, така и на ефективността, тези тестове служат като важен ресурс за насърчаването на напредъка на технологиите в областта на изкуствения интелект.
За повече информация за MLCommons и техните бенчмарк тестове, посетете техния официален уебсайт: mlcommons.org.
Често задавани въпроси
The source of the article is from the blog mivalle.net.ar