NVIDIA on saavuttanut merkittäviä suorituskyvyn parannuksia MLPerf-testeissä, vahvistaen asemansa generatiivisen tekoälyn teknologioiden johtavana toimijana. Yhtiön Hopper-arkkitehtuuriin perustuvat GPU:t, joita ohjaa TensorRT-LLM, saavuttivat huomattavan 3-kertaisen suorituskyvyn lisäyksen GPT-J LLM:ään verrattuna tuloksiin vain kuusi kuukautta sitten.
Nämä suorituskyvyn parannukset korostavat NVIDIA:n jatkuvia ponnisteluja vahvistaakseen asemansa generatiivisen tekoälyn alalla. Hyödyntämällä TensorRT-LLM:ää, joka on suunniteltu erityisesti virtaviivaistamaan suurten kielimallien (LLM) päättelytehtäviä, NVIDIA on mahdollistanut edelläkävijäyrityksille mahdollisuuden optimoida mallejaan. Tämä on mahdollistettu myös NVIDIA NIM:llä, joukolla päättelymikropalveluita, jotka sisältävät tehokkaita moottoreita kuten TensorRT-LLM:n. NVIDIA NIM:n integroitu lähestymistapa yksinkertaistaa NVIDIA:n päättelyalustan käyttöönottoa, tarjoten yrityksille vertaansa vailla olevaa tehokkuutta ja joustavuutta.
Äskettäiset MLPerf-testit osoittivat myös NVIDIA:n viimeisimpien H200 Tensor Core -GPU:iden kyvykkyyden TensorRT-LLM:ää suorittaessa. Nämä muistilla varustetut GPU:t, jotka tekevät ensiesiintymisensä MLPerf-areenalla, saavuttivat poikkeuksellisen läpimenon, generoiden jopa 31 000 merkkiä sekunnissa Llama 2 70B-testissä. Tämä korostaa NVIDIA:n viimeisimpien laitteiden vaikuttavia generatiivisen tekoälyn kykyjä.
Suorituskyvyn kasvun lisäksi NVIDIA on myös edistynyt merkittävästi lämpöhallinnassa H200 GPU:illaan. Räätälöidyt ratkaisut lämpöhallintaan ovat edistäneet jopa 14%:n suorituskyvyn lisäystä. Tämä näkyy luovissa toteutuksissa, joissa järjestelmärakentajat ovat hyödyntäneet NVIDIA MGX-suunnitteluita, parantaen entisestään Hopper GPU:iden suorituskykymahdollisuuksia.
NVIDIA jatkaa innovointiaan ja on jo aloittanut H200 GPU:iden toimittamisen lähes 20 merkittävälle järjestelmärakentajalle ja pilvipalveluntarjoajalle. Nämä GPU:t, joilla on lähes 5 TB/s muistikaista, tarjoavat poikkeuksellista suorituskykyä, erityisesti muistintarpeikkaissa MLPerf-arvioinneissa, kuten suositusjärjestelmissä.
NVIDIA:n sitoutuminen tekoälytekniikan rajojen työntämiseen näkyy myös niiden hyödyntäessä menetelmiä kuten rakenteellista harvajakoisuutta. Rakenteellisen harvajakoisuuden avulla, lähestymistapaa, joka vähentää laskentaa, NVIDIA:n insinöörit saavuttivat jopa 33%:n nopeuslisäyksen päättelyssä Llama 2:lla. Tämä osoittaa yhtiön sitoutumista tehokkaiden ja korkean suorituskyvyn tekoälyratkaisujen toimittamiseen.
Katsoessaan tulevaisuuteen NVIDIA:n perustaja ja toimitusjohtaja, Jensen Huang, paljasti äskettäisessä GTC-konferenssissa, että tulevat NVIDIA Blackwell -arkkitehtuuriin perustuvat GPU:t tuovat vieläkin korkeamman suorituskyvyn tason. Nämä GPU:t on suunniteltu erityisesti vastaamaan suurten kielimallien kasvaviin vaatimuksiin, mahdollistaen monitriillionaisten parametrien tekoälymallien koulutuksen ja päättelyn.
### UKK:
**K: Mikä on TensorRT-LLM?**
V: TensorRT-LLM on erikoistyökalu, jonka NVIDIA on kehittänyt suurten kielimallien (LLM) päättelytehtävien virtaviivaistamiseksi. Se tehostaa suorituskykyä ja tehokkuutta generativisissa tekoälysovelluksissa.
**K: Mitä ovat MLPerf-testit?**
V: MLPerf-testit ovat teollisuusstandardi testejä, joita käytetään arvioimaan koneoppimisjärjestelmien ja -mallien suorituskykyä eri aloilla ja tehtävissä.
**K: Mikä on rakenteellinen harvajakoisuus?**
V: Rakenteellinen harvajakoisuus on tekniikka, jota käytetään laskennan vähentämiseen tekoälymalleissa tunnistamalla ja hyödyntämällä harvajakoisuuden kuvioita tiedoissa. Se auttaa parantamaan päättelytehtävien tehokkuutta ja nopeutta.
**K: Mikä on H200 GPU:ien merkitys?**
V: NVIDIA:n H200 GPU:it tarjoavat vaikuttavan muistikaistan ja suorituskyvyn, mikä tekee niistä sopivia muistintarpeikkaille tehtäville generatiivisessa tekoälyssä ja koneoppimisessa.
Lisätietoja NVIDIA:n edistysaskeleista generatiivisessa tekoälyssä ja MLPerf-testeistä saat vierailemalla [NVIDIA:n virallisilla verkkosivuilla](https://www.nvidia.com).
[Upota video](https://www.youtube.com/embed/_SloSMr-gFI)
The source of the article is from the blog elperiodicodearanjuez.es