Mākslīgā intelekta (AI) novērtēšanas organizācija MLCommons nesen publicēja plašu testu kopumu un rezultātus, kas novērtē augstas veiktspējas aparatūras ātrumu un reaģēšanas spēju darbībā ar AI lietojumprogrammām. Šie testi koncentrējas uz mērījumiem par AI mikroshēmu un sistēmu efektivitāti, izvadot atbildes no izturīgiem AI modeļiem, kas bagātināti ar plašiem datiem.
Šo testu rezultāti sniedz vērtīgas atziņas par veiktspēju, ar kādu AI lietojumprogrammas, piemēram, ChatGPT, var atbildēt uz lietotāju vaicājumiem. MLCommons ieviesa “Llama 2” testu, kas specifiski novērtē jautājumu un atbilžu ātrumu lieliem valodas modeļiem. Meta Platforms izstrādātais “Llama 2” lepojas ar iespaidīgiem 70 miljardus parametriem.
Papildus “Llama 2”, MLCommons ieviesa arī MLPerf, testēšanas rīku, kas koncentrējas uz tekstu uz attēlu ģenerēšanu. Šis tests izmanto Stability AI “Stable Diffusion XL” modeli. Serveri, kas aprīkoti ar Nvidia H100 mikroshēmām, ko ražo tādas kompānijas kā Google Alphabet, Supermicro, un pat pats Nvidia, izdevās kļūt par skaidrajiem uzvarētājiem, runājot par rāv performanci tekstu uz attēlu ģenerācijas testā. Vairāki serveru veidotāji iesniedza dizainus, kas balstīti uz Nvidia L40S mikroshēmām, kas, lai gan mazāk jaudīgas, tomēr parādīja konkurētspēju attēlu ģenerācijas testā.
Serveru ražotājs Krai izvēlējās citu pieeju, iesniedzot dizainu, kas izmanto Qualcomm AI mikroshēmu attēlu ģenerācijas testā. Šis alternatīvais mikroshēma salīdzinoši zemāk patērēja enerģiju salīdzinājumā ar Nvidia jaunākajām procesora vienībām, demontrējot videi draudzīgāku pieeju. Intel arī iesniedza dizainu, kurā iekļautas Gaudi2 acceleratora mikroshēmas, norādot, ka rezultāts ir “stiprs”.
Lai gan rāv performanci joprojām paliek būtisks faktors AI lietojumprogrammu izplatīšanā, enerģijas patēriņš ir būtiska nozīme nozares. AI uzņēmumi cenšas izstrādāt mikroshēmas, kas piedāvā optimālu veiktspēju, minimizējot enerģijas patēriņu. Tādēļ MLCommons atzīst šo jautājumu un ir atsevišķa novērtēšanas kategorija atbildīga par enerģijas patēriņa mērīšanu.
Šie jaunie testa rezultāti sniedz vērtīgu informāciju gan AI aparatūras ražotājiem, gan uzņēmumiem, kuri cenšas ieviest AI lietojumprogrammas. Uzsvērot gan ātrumu, gan efektivitāti, šie testi kalpo kā būtisks resurss, lai veicinātu AI tehnoloģiju attīstību.
Turpmākai informācijai par MLCommons un viņu testiem, apmeklējiet viņu oficiālo mājas lapu: mlcommons.org.
FAQ:
Q: Kādi ir jaunie testi, ko ieviesis MLCommons?
A: MLCommons ieviesa testus, kas mēra AI mikroshēmu un sistēmu ātrumu un efektivitāti, lai izvadītu atbildes no spēcīgiem AI modeļiem, kā arī testu tekstu uz attēlu ģenerēšanai.
Q: Kuri serveri labi sniedza testus?
A: Serveri, kas aprīkoti ar Nvidia H100 mikroshēmām, ko ražo tādas kompānijas kā Google Alphabet, Supermicro, un pat pats Nvidia, parādīja izcilu veiktspēju testos.
Q: Vai kādi dizaini, kas izmanto alternatīvas mikroshēmas, parādīja cerīgus rezultātus?
A: Jā, serveru ražotājs Krai iesniedza dizainu ar Qualcomm AI mikroshēmu, kas ļoti labi funkcionēja attēlu ģenerācijas testos un bija enerģijas ziņā efektīvs.
Q: Kāpēc enerģijas patēriņš ir svarīgi AI uzņēmumiem?
A: Augsti attīstītās AI mikroshēmas patērē lielu daudzumu enerģijas, veidojot izaicinājumu uzņēmumiem, kuri cenšas optimizēt veiktspēju, minimizējot enerģijas izmaksas.
Q: Kā šie testi noder AI nozarei?
A: Testu rezultāti sniedz vērtīgas atziņas AI aparatūras ražotājiem un uzņēmumiem, kas implementē AI lietojumprogrammas, palīdzot virzīt uz priekšu un attīstīt AI tehnoloģiju.
Papildinformācijai: [https://www.youtube.com](https://www.youtube.com)
The source of the article is from the blog queerfeed.com.br