Organizacja benchmarkowa sztucznej inteligencji MLCommons niedawno opublikowała kompleksowy zestaw testów i wyników, które oceniają szybkość i responsywność wysokowydajnego sprzętu w uruchamianiu aplikacji AI. Te nowo dodane testy koncentrują się na mierzeniu efektywności układów scalonych AI oraz systemów w generowaniu odpowiedzi z zaawansowanych modeli AI wzbogaconych o obszerne dane.
Wyniki tych testów dostarczają cennych wniosków na temat szybkości, z jaką aplikacje AI, takie jak ChatGPT, mogą dostarczać odpowiedzi na zapytania użytkowników. Jeden z testów, o nazwie Llama 2, ocenia szczegółowo szybkość scenariuszy pytania i odpowiedzi dla dużych modeli językowych. Opracowany przez Meta Platforms, Llama 2 dysponuje imponującymi 70 miliardami parametrów.
MLCommons wprowadził także kolejne narzędzie pomiarowe do swojego zestawu, o nazwie MLPerf. Ten nowy dodatek koncentruje się na generowaniu tekstu na obraz i wykorzystuje model Stable Diffusion XL firmy Stability AI. Kiedy oceniano serwery wyposażone w układy scalone H100 firmy Nvidia, produkowane przez renomowane firmy, takie jak Alphabet należące do Google, Supermicro i sama Nvidia, zdecydowanie dominowały w kontekście czystej wydajności. W przeciwieństwie do tego, różne firmy budujące serwery przedstawiały projekty oparte na układach L40S firmy Nvidia, które są mniej potężne, ale nadal radziły sobie w teście generowania obrazów.
Firma Krai, producent serwerów, obrała inną drogę, prezentując projekt z wykorzystaniem układu scalonego AI Qualcomm do testu generacji obrazów. Ten alternatywny układ znacznie mniej zużywał energii w porównaniu z najnowszymi procesorami Nvidia, co ukazało bardziej efektywnie energetyczne podejście. Intel także przedstawił projekt zawierający układy akceleratora Gaudi2, chwaląc wynik jako „solidny.”
Podczas gdy czysta wydajność pozostaje istotnym czynnikiem w wdrażaniu aplikacji AI, zużycie energii nowoczesnych układów AI stanowi istotne zmartwienie dla branży. Firmy AI dążą do opracowania układów, które oferują optymalną wydajność przy minimalnym zużyciu energii. W efekcie MLCommons posiada oddzielną kategorię pomiarową poświęconą mierzeniu zużycia energii.
Najnowsze wyniki testów benchmarkowych dostarczają cennych informacji zarówno dla producentów sprzętu AI, jak i firm dążących do wdrożenia aplikacji AI. Poprzez podkreślenie zarówno szybkości, jak i wydajności, te testy stanowią istotne źródło promowania rozwoju technologii AI.
FAQ:
Q: Jakie nowe testy benchmarkowe wprowadziło MLCommons?
A: MLCommons wprowadził testy mierzące szybkość i wydajność układów AI oraz systemów w generowaniu odpowiedzi z potężnych modeli AI, a także benchmark dla generacji tekstu na obraz.
Q: Które serwery wypadły wyjątkowo dobrze w testach?
A: Serwery wyposażone w układy H100 firmy Nvidia, zbudowane przez firmy takie jak Alphabet należące do Google, Supermicro i Nvidia sama, wykazały wybitną wydajność w testach.
Q: Czy jakieś projekty wyposażone w alternatywne układy pokazały obiecujące wyniki?
A: Tak, firma produkująca serwery o nazwie Krai przedstawiła projekt z układem scalonym AI Qualcomm, który wykazał znaczną efektywność energetyczną w teście generacji obrazów.
Q: Dlaczego zużycie energii jest ważnym czynnikiem dla firm AI?
A: Zaawansowane układy AI zużywają znaczące ilości energii, co sprawia, że efektywność energetyczna stanowi kluczowe wyzwanie dla firm AI dążących do optymalizacji wydajności przy minimalnym zużyciu energii.
Q: W jaki sposób te testy benchmarkowe przynoszą korzyści branży AI?
A: Wyniki testów zapewniają cenne informacje dla producentów sprzętu AI i firm wdrażających aplikacje AI, pomagając w rozwoju i udoskonalaniu technologii AI.
Dla więcej informacji na temat MLCommons i ich testów benchmarkowych odwiedź oficjalną stronę internetową: mlcommons.org.
The source of the article is from the blog karacasanime.com.ve