Organizacija za benchmarking umetne inteligence MLCommons je nedavno objavila celovit niz testov in rezultatov, ki ocenjujejo hitrost in odzivnost visokozmogljive strojne opreme pri zagonu aplikacij umetne inteligence. Ti novi testi se osredotočajo na merjenje učinkovitosti čipov in sistemov za umetno inteligenco pri generiranju odzivov iz robustnih modelov umetne inteligence, obogatenih z obširnimi podatki.
Rezultati teh testov ponujajo dragocene vpoglede v hitrost, s katero aplikacije umetne inteligence, kot je ChatGPT, lahko dostavljajo odgovore na uporabniška vprašanja. Eno od meril, imenovano Llama 2, posebej ocenjuje hitrost scenarijev vprašanj in odgovorov za velike jezikovne modele. Llama 2, razvita s strani podjetja Meta Platforms, se ponaša z impresivnimi 70 milijardami parametrov.
MLCommons je predstavil tudi drugo orodje za benchmarking, imenovano MLPerf. Ta nov dodatek se osredotoča na generiranje besedil v slike in uporablja model Stabilnost AI Stable Diffusion XL. Pri evaluaciji so se strežniki, opremljeni z Nvidia čipi H100, ki jih izdelujejo ugledna podjetja, kot so Google Alphabet, Supermicro in Nvidia sami, izkazali kot jasni zmagovalci v smislu čistih zmogljivosti. Nasprotno pa so različni graditelji strežnikov predstavili modele na osnovi Nvidia čipov L40S, ki so manj zmogljivi, a vseeno dosegli odlične rezultate pri generiranju slik.
Podjetje Krai, graditelj strežnikov, je stopilo po drugačni poti z oblikovanjem, ki uporablja Qualcomm čip za testiranje generacije slik. Ta alternativni čip porablja precej manj energije v primerjavi s sodobnimi procesorji Nvidia, kar poudarja bolj energetsko učinkovit pristop. Intel je prav tako predstavil obliko s svojimi Gaudi2 pospeševalnimi čipi, ki so bili pohvaljeni kot “trdni”.
Čeprav ostaja čista zmogljivost ključnega pomena pri implementaciji aplikacij umetne inteligence, je poraba energije naprednih čipov za umetno inteligenco pomembna skrb za industrijo. Podjetja za umetno inteligenco si prizadevajo razviti čipe, ki ponujajo optimalno zmogljivost ob minimalni porabi energije. Posledično ima MLCommons posebno kategorijo za benchmarking namenjeno merjenju porabe energije.
Ti najnovejši rezultati testov ponujajo dragocene informacije tako za proizvajalce strojne opreme za umetno inteligenco kot za podjetja, ki želijo implementirati aplikacije umetne inteligence. Z osvetljevanjem hitrosti in učinkovitosti te študije služijo kot ključen vir za spodbujanje napredka v tehnologiji umetne inteligence.
Pogosta vprašanja:
Q: Kateri novi testi so bili predstavljeni s strani MLCommons?
A: MLCommons je predstavil teste, ki merijo hitrost in učinkovitost čipov in sistemov za umetno inteligenco pri generiranju odgovorov iz zmogljivih modelov umetne inteligence, ter test za generiranje besedil v slike.
Q: Katere strežniki so se izkazali izjemno dobro pri zgoraj omenjenih testih?
A: Strežniki opremljeni z Nvidia čipi H100, izdelani s strani podjetij kot so Google Alphabet, Supermicro in Nvidia sami, so izstopali po svoji izjemni zmogljivosti na testih.
Q: Ali so kakšni modeli z alternativnimi čipi pokazali obetavne rezultate?
A: Da, graditelj strežnikov imenovan Krai je predstavil model s Qualcomm AI čipom, ki je pokazal znatno energijsko učinkovitost pri testiranju generacije slik.
Q: Zakaj je poraba energije pomembna skrb za podjetja za umetno inteligenco?
A: Napredni čipi za umetno inteligenco porabijo velike količine energije, zaradi česar je učinkovitost porabe energije ključni izziv za podjetja za umetno inteligenco, ki želijo optimizirati zmogljivost ob minimalni porabi energije.
Q: Kako koristijo ti testi industriji umetne inteligence?
A: Rezultati testov ponujajo dragocene vpoglede za proizvajalce strojne opreme za umetno inteligenco in podjetja, ki implementirajo aplikacije umetne inteligence, kar pomaga pri napredku in razvoju tehnologije umetne inteligence.
Za več informacij o MLCommons in njihovih testih obiščite uradno spletno stran: mlcommons.org.
The source of the article is from the blog trebujena.net