Organizacija za benchmarkiranje umjetne inteligencije MLCommons nedavno je objavila sveobuhvatan set testova i rezultata koji procjenjuju brzinu i odzivnost visokoučinkovite hardverske opreme u vođenju AI aplikacija. Novo dodani benchmarkovi usredotočuju se na mjerenje učinkovitosti AI čipova i sustava u generiranju odgovora iz robustnih AI modela obogaćenih obimnim podacima.
Rezultati ovih testova pružaju vrijedne uvide u brzinu kojom AI aplikacije, poput ChatGPT-a, mogu dostaviti odgovore na upite korisnika. Jedan od benchmarkova, nazvan Llama 2, posebno procjenjuje brzinu scenarija pitanja i odgovora za velike jezične modele. Razvijen od strane Meta Platforme, Llama 2 se ponosi impresivnih 70 milijardi parametara.
MLCommons je također predstavio još jedan alat za benchmarkiranje u svom setu, nazvan MLPerf. Ovaj novi dodatak fokusira se na generiranje teksta u sliku i koristi Stability AI-ev model Stable Diffusion XL. Pri evaluaciji, serveri opremljeni Nvidia-ovim H100 čipovima, proizvedeni od uglednih tvrtki poput Googleovog Alphabeta, Supermicroa i same Nvidia-e, istaknuo su se kao jasni pobjednici u smislu sirove performanse. Nasuprot tome, različiti izrađivači servera predstavili su dizajne temeljene na Nvidia-ovim L40S čipovima koji su manje moćni, ali su i dalje pokazali konkurentnost u benchmarku generiranja slika.
Krai, izrađivač servera, krenuo je drugačijim putem predstavivši dizajn koji koristi Qualcomm AI čip za benchmark generiranja slika. Ovaj alternativni čip trošio je značajno manje energije u usporedbi s Nvidia-inim naprednim procesorima, pokazujući ekološki prihvatljiviji pristup. Intel je također predstavio dizajn s njihovim Gaudi2 ubrzačkim čipovima, hvaleći rezultat kao “čvrst”.
I dok sirova performansa ostaje ključni čimbenik u implementaciji AI aplikacija, potrošnja energije naprednih AI čipova značajna je briga za industriju. AI tvrtke teže razvijati čipove koji pružaju optimalnu performansu uz minimalnu potrošnju energije. Stoga, MLCommons ima zasebnu kategoriju benchmarkiranja posvećenu mjerenju potrošnje energije.
Ovi najnoviji rezultati benchmarkiranja pružaju vrijedne informacije kako proizvođačima AI hardvera tako i tvrtkama koje žele implementirati AI aplikacije. Ističući brzinu i učinkovitost, ovi testovi služe kao važan resurs u promicanju napretka tehnologije umjetne inteligencije.
FAQ:
P: Koje su nove benchmarkove predstavili MLCommons?
O: MLCommons je predstavio benchmarkove koji mjere brzinu i učinkovitost AI čipova i sustava u generiranju odgovora iz moćnih AI modela, kao i benchmark za generiranje teksta u sliku.
P: Koji serveri su se izdvojili u benchmarkovima?
O: Serveri opremljeni Nvidia-inim H100 čipovima, izgrađeni od tvrtki poput Googleovog Alphabeta, Supermicroa i same Nvidia-e, istaknuli su se izvrsnim performansama na testovima.
P: Jesu li neki dizajni s alternativnim čipovima pokazali obećavajuće rezultate?
O: Da, izrađivač servera Krai predstavio je dizajn s Qualcomm AI čipom koji je pokazao značajnu energetsku učinkovitost u benchmarku generiranja slika.
P: Zašto je potrošnja energije važan faktor za AI tvrtke?
O: Napredni AI čipovi troše značajne količine energije, čime potrošnja energije postaje ključni izazov za AI tvrtke koje teže optimizirati performansu uz minimalnu potrošnju energije.
P: Kako ovi benchmarkovi koriste AI industriji?
O: Rezultati benchmarkova pružaju vrijedne uvide proizvođačima AI hardvera i tvrtkama koje implementiraju AI aplikacije, doprinoseći napretku i razvoju AI tehnologije.
Za više informacija o MLCommonsu i njihovim benchmarkovima, posjetite njihovu službenu web stranicu: mlcommons.org.
The source of the article is from the blog motopaddock.nl