Organizace pro benchmarking umělé inteligence MLCommons nedávno zveřejnila komplexní soubor testů a výsledků, které hodnotí rychlost a odezvu vysokovýkonného hardwaru při provozování aplikací AI. Tyto nově přidané benchmarky se zaměřují na měření efektivity AI čipů a systémů při generování odpovědí z robustních modelů AI obohacených rozsáhlými daty.
Výsledky těchto testů poskytují cenné informace o rychlosti, kterou mohou aplikace AI, jako je ChatGPT, dodávat odpovědi na dotazy uživatelů. Jeden z benchmarků nazvaný Llama 2 specificky hodnotí rychlost scénářů otázek a odpovědí pro velké jazykové modely. Vyvinutý společností Meta Platforms, Llama 2 se pyšní impozantními 70 miliardami parametrů.
MLCommons rovněž představil další nástroj pro benchmarking nazvaný MLPerf. Tento nový benchmark se zaměřuje na generaci textu na obrázek a využívá model Stability AI Stable Diffusion XL. Při vyhodnocování se servery vybavené čipy Nvidia H100, vyrobené renomovanými společnostmi jako Googleova společnost Alphabet, Supermicro a samotná Nvidia, prokázaly jako jasní vítězové z hlediska čistého výkonu. Naopak různí výrobci serverů předložili designy založené na čipech Nvidia L40S, které jsou méně výkonné, ale stále obstály ve výkonnostním benchmarku pro generování obrázků.
Krai, výrobce serverů, zamířil jinou cestou tím, že předložil design využívající čip Qualcomm AI pro benchmark generování obrázků. Tento alternativní čip spotřeboval významně méně energie ve srovnání s moderními procesory Nvidie, což podtrhuje energeticky účinnější přístup. Také společnost Intel předložila design s jejími akcelerátory Gaudi2, chválíc výsledek jako „solidní.“
Zatímco čistý výkon zůstává klíčovým faktorem při implementaci aplikací AI, energetická spotřeba pokročilých čipů AI je důležitým problémem pro odvětví. Společnosti AI se snaží vyvíjet čipy, které nabízejí optimální výkon a zároveň minimalizují spotřebu energie. V důsledku toho MLCommons má samostatnou kategorii benchmarkingu věnovanou měření spotřeby energie.
Tyto nejnovější výsledky benchmarků poskytují cenné informace jak pro výrobce hardwaru AI, tak pro společnosti hledající implementaci aplikací AI. Těmto testům, které zdůrazňují jak rychlost, tak efektivitu, tak slouží jako důležitý zdroj pro podporu pokroku v oblasti AI technologií.
FAQ:
Q: Jaké nové benchmarky představil MLCommons?
A: MLCommons představil benchmarky, které měří rychlost a efektivitu AI čipů a systémů při generování odpovědí z výkonných AI modelů, stejně jako benchmark pro generování textu na obrázek.
Q: Které servery si vedly mimořádně dobře v benchmarks?
A: Servery vybavené čipy Nvidia H100, vyrobené společnostmi jako Googleova společnost Alphabet, Supermicro a samotná Nvidia, prokázaly výjimečný výkon v testech.
Q: Podařilo se nějakým designům s alternativními čipy prokázat slibné výsledky?
A: Ano, výrobce serverů jménem Krai předložil design s čipem Qualcomm AI, který prokázal významnou energetickou úspornost v benchmarku generování obrázků.
Q: Proč je spotřeba energie důležitým zřetelem pro společnosti AI?
A: Moderní AI čipy spotřebovávají významné množství energie, což z energetické účinnosti dělá klíčovou výzvu pro společnosti AI, které usilují o optimalizaci výkonu a zároveň minimalizaci spotřeby energie.
Q: Jak tyto benchmarky prospívají průmyslu AI?
A: Výsledky benchmarků poskytují cenné informace pro výrobce hardwaru AI i společnosti implementující aplikace AI, pomáhají tak s pokrokem a rozvojem AI technologií.
Pro více informací o MLCommons a jejich benchmarku, navštivte jejich oficiální webovou stránku: mlcommons.org.
The source of the article is from the blog girabetim.com.br