Tekoälyn benchmarkkausorganisaatio MLCommons on julkaissut kattavan testijoukon ja tulokset, jotka arvioivat korkean suorituskyvyn laitteiston nopeutta ja reagointikykyä tekoälysovellusten suorittamisessa. Näissä testeissä mitataan tekoälypiirien ja järjestelmien tehokkuutta vastaamaan vahvojen tekoälymallien tuottamiin vastauksiin, jotka on rikastettu laajalla datalla.
Nämä testitulokset tarjoavat arvokkaita näkökulmia siihen, kuinka nopeasti tekoälysovellukset, kuten ChatGPT, voivat toimittaa vastauksia käyttäjän kyselyihin. Yksi testeistä, nimeltään Llama 2, arvioi erityisesti kysymys-vastaus-skenaarioiden nopeutta suurille kielimalleille. Meta Platformsin kehittämä Llama 2 ylpeilee vaikuttavalla 70 miljardin parametrin määrällä.
MLCommons esitteli myös toisen benchmarkkaustyökalun, nimeltä MLPerf. Tämä uusi lisäys keskittyy tekstistä kuvaksi -generointiin ja hyödyntää Stability AI:n Stable Diffusion XL -mallia. Arvioinnissa Nvidia’n H100-piireillä varustetut palvelimet, jotka on valmistanut arvostettuja yrityksiä kuten Google’n Alphabet, Supermicro ja itse Nvidia, nousivat selkeiksi voittajiksi raakasuorituskyvyn osalta. Toisaalta erilaiset palvelinrakentajat toimittivat suunnitelmia, jotka perustuivat Nvidia’n L40S-piireihin, jotka ovat vähemmän tehokkaita mutta silti pärjäsivät hyvin kuvantunnistustehtävässä.
Krai, palvelinrakentaja, valitsi erilaisen lähestymistavan lähettämällä suunnitelman, jossa hyödynnettiin Qualcommin tekoälypiiriä kuvanluontitestissä. Tämä vaihtoehtoinen piiri kulutti merkittävästi vähemmän energiaa verrattuna Nvidia’n viimeisimpiin prosessoreihin, mikä osoittaa ympäristöystävällisemmän lähestymistavan. Myös Intel lähetti suunnitelman, jossa käytettiin sen Gaudi2-kiihdytinpiirejä, ja kehui tulosta ”hyväksi”.
Vaikka raakasuorituskyky on edelleen keskeinen tekijä tekoälysovellusten käyttöönotossa, edistyneiden tekoälypiirien energiankulutus on merkittävä huolenaihe alalle. Tekoälyyritykset pyrkivät kehittämään piirejä, jotka tarjoavat optimaalisen suorituskyvyn samalla kun ne minimoivat energiankulutuksen. Tämän vuoksi MLCommonsilla on erillinen benchmarkkauskategoria, joka on omistettu energiankulutuksen mittaamiseen.
Nämä viimeisimmät benchmark-tulokset tarjoavat arvokasta tietoa sekä tekoälylaitevalmistajille että yrityksille, jotka pyrkivät toteuttamaan tekoälysovelluksia. Korostaen niin nopeutta kuin tehokkuuttakin, nämä testit toimivat tärkeänä resurssina tekoälyteknologian edistämisessä.
UKK:
K: Mitkä ovat MLCommonsin esittelemät uudet benchmarkit?
A: MLCommons esitteli benchmarkit, jotka mittaavat tekoälypiirien ja järjestelmien nopeutta ja tehokkuutta vastauksien tuottamisessa tehokkaista tekoälymalleista, sekä benchmarkeja tekstistä kuvaksi -generointiin.
K: Mitkä palvelimet suoriutuivat poikkeuksellisen hyvin testeissä?
A: Palvelimet, jotka oli varustettu Nvidia’n H100-piireillä ja valmistanut yritykset kuten Google’n Alphabet, Supermicro ja itse Nvidia, osoittivat erinomaista suorituskykyä testeissä.
K: Osoittivatko minkäänlaiset suunnitelmat vaihtoehtoisilla piireillä lupaavia tuloksia?
A: Kyllä, palvelinrakentaja nimeltä Krai lähetti suunnitelman, jossa käytettiin Qualcommin tekoälypiiriä ja se osoitti merkittävää energiatehokkuutta kuvanluontitestissä.
K: Miksi energiankulutus on tärkeä seikka tekoälyyrityksille?
A: Edistyneet tekoälypiirit kuluttavat merkittäviä määriä energiaa, mikä tekee energiatehokkuudesta avainhaasteen tekoälyyrityksille, jotka pyrkivät optimoimaan suorituskyvyn samalla minimoiden energiankulutuksen.
K: Miten nämä benchmarkit hyödyttävät tekoälyaaltoa?
A: Benchmark-tulokset tarjoavat arvokasta tietoa tekoäly laitevalmistajille ja yrityksille, jotka toteuttavat tekoälysovelluksia, edistaen tekoälyteknologian kehitystä ja edistymistä.
Lisätietoja MLCommonsista ja heidän testeistään löydät heidän virallisilta verkkosivuiltaan: mlcommons.org.
[Upota video](https://www.youtube.com/embed/GyllRd2E6fg)
The source of the article is from the blog newyorkpostgazette.com