Organizácia pre benchmarking umelej inteligencie MLCommons nedávno zverejnila komplexnú sadu testov a výsledkov, ktoré hodnotia rýchlosť a reakčnú schopnosť vysokovýkonných hardvérových riešení pri spúšťaní aplikácií s umelou inteligenciou. Tieto nové benchmarky sa zameriavajú na meranie efektívnosti AI čipov a systémov pri generovaní odpovedí z výkonných modelov AI obohatených rozsiahlymi dátami.
Výsledky týchto testov poskytujú cenné poznatky o rýchlosti, akou môžu aplikácie AI, ako napríklad ChatGPT, poskytovať odpovede na otázky používateľov. Jedným z benchmarkov, nazvaným Llama 2, špecificky hodnotí rýchlosť scenárov otázok a odpovedí pre veľké jazykové modely. Vytvorený spoločnosťou Meta Platforms, Llama 2 sa môže pochváliť impozantnými 70 miliardami parametrov.
Okrem Llama 2 MLCommons tiež predstavila ďalší nástroj na benchmarking s názvom MLPerf, ktorý sa zameriava na generovanie textu na obrázok. Tento benchmark využíva model Stable Diffusion XL od Stability AI. Pri vyhodnocovaní sa servery vybavené čipmi Nvidia H100, vyrobenými renomovanými spoločnosťami ako je Googleova spoločnosť Alphabet, Supermicro a samotná Nvidia, ukázali ako jasní víťazi vo vzťahu k hrubej výkonnosti. Naopak, rôzni výrobcovia serverov predložili návrhy založené na čipoch Nvidia L40S, ktoré sú menej výkonné, ale stále obstáli v jednotlivých benchmarkoch.
Spoločnosť Krai, výrobca serverov, sa rozhodla pre alternatívny prístup a predložila návrh využívajúci čip Qualcomm AI pre benchmark generovania obrázkov. Tento alternatívny čip spotreboval významne menej energie v porovnaní s modernými procesormi od Nvidie, čím demonštroval oveľa ekologickejší prístup. Spoločnosť Intel tiež predložila návrh so svojimi akcelerátormi Gaudi2, ktorý získal potešujúce výsledky v testoch benchmarku.
Zatiaľ čo hrubý výkon zostáva kľúčovým faktorom pri nasadzovaní aplikácií AI, spotreba energie pokročilými čipmi AI je významným problémom pre odvetvie. Spoločnosti pôsobiace v oblasti umelej inteligencie sa snažia vyvíjať čipy, ktoré ponúkajú optimálny výkon pri minimalizovaní spotreby energie. Z tohto dôvodu MLCommons zaviedla samostatnú kategóriu benchmarkingu zameranú na meranie spotreby energie.
Tieto najnovšie výsledky benchmarkov poskytujú cenné informácie pre výrobcov hardvéru pre AI a spoločnosti, ktoré sa snažia implementovať aplikácie AI. Tieto testy slúžia ako dôležitý zdroj na podporu rozvoja technológie AI prostredníctvom zdôraznenia rýchlosti a efektívnosti.
Časté otázky:
Q: Aké nové benchmarky predstavila MLCommons?
A: MLCommons predstavila benchmarky, ktoré merajú rýchlosť a efektívnosť AI čipov a systémov pri generovaní odpovedí z výkonných modelov AI a benchmark pre generovanie textu na obrázok.
Q: Ktoré servery dosiahli výnimočné výsledky v benchmarkoch?
A: Servery vybavené čipmi Nvidia H100, postavené spoločnosťami ako Googleova spoločnosť Alphabet, Supermicro a Nvidia samotná, ukázali vynikajúcu výkonnosť vo vyhodnocovaní testoch.
Q: Predstavili sa nejaké návrhy so alternatívnymi čipmi s pozitívnymi výsledkami?
A: Áno, výrobca serverov s názvom Krai predložil návrh s čipom Qualcomm AI, ktorý preukázal výraznú energetickú efektívnosť v benchmarku generovania obrázkov.
Q: Prečo je spotreba energie dôležitým aspektom pre spoločnosti pôsobiace v oblasti umelej inteligencie?
A: Pokročilé čipy AI spotrebúvajú významné množstvo energie, čo robí energetickú efektívnosť kľúčovým problémom pre spoločnosti aktívne v oblasti minimalizácie spotreby energie pri optimalizácii výkonu.
Q: Aký prínos majú tieto benchmarky pre odvetvie umelej inteligencie?
A: Výsledky benchmarkov poskytujú cenné poznatky pre výrobcov hardvéru pre AI a pre spoločnosti implementujúce aplikácie AI, čím prispievajú k rozvoju a vývoju technológie AI.
Pre viac informácií o MLCommons a ich benchmarkoch navštívte ich oficiálnu webovú stránku: mlcommons.org.
The source of the article is from the blog jomfruland.net