Kunstliku intelligentsuse (AI) hindamisorganisatsioon MLCommons on hiljuti avaldanud põhjaliku testide ja tulemuste komplekti, mis hindavad kõrge jõudlusega riistvara reageerimiskiirust ja kiirust AI rakenduste käitamisel. Need testid keskenduvad mõõtma AI kiibidest ja süsteemide efektiivsust vastuste genereerimisel robustsetest AI mudelitest, mis on rikastatud ulatusliku andmega.
Nende testide tulemused pakuvad väärtuslikke teadmisi selle kohta, kui kiiresti AI rakendused, näiteks ChatGPT, suudavad kasutajapäringutele vastuseid pakkuda. Üks testidest, nimega Llama 2, hindab konkreetsemalt küsimuste ja vastuste stsenaariumide kiirust suurte keelemudelite jaoks. Meta Platformsi poolt välja töötatud Llama 2 uhkeldab muljetavaldava 70 miljardi parameetriga.
Lisaks Llama 2-le tutvustas MLCommons ka uut hindamistööriista nimega MLPerf, mis keskendub tekstist pildi loomisele. See benchmark kasutab Stabiilsuse AI Stabiilse Diffusiooni XL mudelit. H100 kiipidega varustatud serverid, mida toodavad ettevõtted nagu Google’i Alphabet, Supermicro ja Nvidia ise, osutusid tekstist pildi loomise benchmarkis selgelt parimateks toorjõudluse poolest. Erinevad serveriehitajad esitasid ka kavandeid Nvidia L40S kiipide baasil, mis näitasid konkurentsivõimelist jõudlust samas testis.
Sergei, serveriehitaja, valis alternatiivse lähenemise, esitades disaini, mis kasutab pildi loomiseks Qualcomm’i AI kiipi. See alternatiivne kiip näitas võrreldes Nvidia tipptasemel protsessoritega märkimisväärselt paremat energiatõhusust, tuues esile keskkonnasõbralikuma lähenemise. Intel esitas ka disaini, kus kasutati nende Gaudi2 kiirenduskiipe, mis saavutasid testides head tulemused.
Kuigi toorjõudlus on endiselt oluline tegur AI rakenduste kasutuselevõtmisel, on arenenud AI kiipide energiatarbimine valdkonnas oluline mure. AI ettevõtted püüavad välja arendada kiipe, mis pakuvad optimaalset jõudlust, samal ajal energiakasutust minimeerides. MLCommons tunnistab seda muret ning neil on eraldi hindamiskategooria, mis on pühendatud energiatarbimise mõõtmisele.
Need viimased testitulemused pakuvad väärtuslikku teavet nii AI riistvara tootjatele kui ka ettevõtetele, kes soovivad rakendada AI rakendusi. Rõhutades nii kiirust kui ka efektiivsust, on need testid oluline ressurss AI tehnoloogia edendamisel.
Lisateabe saamiseks MLCommons’i ja nende testide kohta külastage nende ametlikku veebisaiti: mlcommons.org.
Sagedased küsimused (FAQ):
K: Millised uued hindamised MLCommons tutvustas?
V: MLCommons tutvustas hindamisi, mis mõõdavad AI kiipide ja süsteemide kiirust ja efektiivsust vastuste genereerimisel võimsatest AI mudelitest, samuti tekstist pildi loomise hindamist.
K: Millised serverid tegid hindamisel erakordselt hästi?
V: Serverid, mis olid varustatud Nvidia H100 kiipidega, mida tootsid ettevõtted nagu Google’i Alphabet, Supermicro ja Nvidia ise, näitasid testides silmapaistvat jõudlust.
K: Kas mõned alternatiivse kiibiga disainid näitasid lootustandvaid tulemusi?
V: Jah, serveriehitaja Sergei esitas disaini Qualcommi AI kiibiga, mis näitas märkimisväärset energiatõhusust pildi loomise testis.
K: Miks on energiatarbimine oluline kaalutlus AI ettevõtetele?
V: Arenenud AI kiibid tarbivad märkimisväärseid energiakoguseid, mis muudab energiaefektiivsuse võtmeküsimuseks AI ettevõtetele, kes püüavad optimeerida jõudlust, minimeerides samas energiakasutust.
K: Kuidas aitavad need hindamised AI tööstust?
V: Hindamistulemused pakuvad väärtuslikke teadmisi AI riistvara tootjatele ja AI rakenduste rakendavatele ettevõtetele, aidates kaasa AI tehnoloogia arengule ja edendamisele.
The source of the article is from the blog be3.sk