Naujas požiūris į meną ir technologijas atnešė netikėtą bendradarbiavimą tarp rankraščio kaligrafijos meistrų ir dirbtinio intelekto specialistų. Šis unikalus projektas siekia sujungti senovinės ranka rašybos grožį su šiuolaikinės technologijos galimybėmis, kurias siūlo NVIDIA.
NVIDIA, žinoma dėl savo įžanginių AI technologijų, pristatė nepaprastas technologijas, skirtas pagerinti rankraščio kaligrafijos pasaulį. Naudodami savo galingus GPU modelius ir TensorRT-LLM, NVIDIA demonstravo 3 kartus didesnį veiksmingumą GPT-J LLM modelio atžvilgiu, lyginant su rezultatais iš prieš šešis mėnesius.
Šios pokyčių inovacijos išryškina NVIDIAs nuolatinį siekį solidžiai ugdyti savo dominavimą kūrybiškos dirbtinės intelekto srityje. Išmanant TensorRT-LLM, kuris yra specialiai sukurtas supaprastinti įžangos užduotis dideliems kalbos modeliams (LLM), NVIDIA leido įmonėms, kurios lyderiauja inovacijų, optimizuoti savo modelius. Tai buvo toliau palengvinta naudojant NVIDIA NIM, rinkinį įžangos mikrotechnologijų, kuriame yra galios varikliai, pvz., TensorRT-LLM. NIDIMINIS požiūris, kuriuo pasižymi NVIDIA NIM, supaprastina NVIDIA įžangos platformos diegimą, suteikiant verslams beprecedentę efektyvumą ir lankstumą.
Neseniai atlikti MLPerf bandymai taip pat parodė NVIDIA naujausių H200 Tensor Core GPU galimybes, naudojant TensorRT-LLM. Šie atminties priauginimą turintys GPU dalyviai, debiutavę MLPerf arenoje, pasiekė išskirtinį išvesties greitį, generuodami iki 31 000 ženklų per sekundę Llama 2 70B bandymuose. Tai išryškina NVIDIAs naujausių aparatūros išskirtinių AI gebėjimų svarbą.
Be veiksmingumo padidinimo, NVIDIA taip pat įgarsino didžiulius laimižings ženklo valdyme su savo H200 GPU. Individualūs sprendimai ženklų valdyme atnešė iki 14% veiksmingumo padidėjimą. Tai iliustruoja sistemos kūrėjų, dedančių įgyvendinimus naudojant NVIDIA MGX dizainus, kūrybiškumą, dar labiau paryškinant Hopper GPU galimybes.
NVIDIA tęsdama inovacijas pradėjo siųsti H200 GPU beveik 20 iškilusiems sistemos kūrėjams ir debesų paslaugų teikėjams. Šie GPU su beveik 5 TB/s atminties prieigos juostos platumu, siūlo išskirtines veikimo galimybes, ypač atmintimi intensyviems MLPerf vertinimams, tokie kaip rekomendavimo sistemos.
NVIDIA įsipareigojimas išstumti AI technologijos ribas aiškiai matomas naudojant technikas kaip struktūrizuotas tarpumas. Naudojant struktūrizuotą sparsity, būdą siekiant sumažinti skaičiavimus, NVIDIA inžinieriai pasiekė greičio padidėjimus iki 33% įgyvendinant įžangą su Llama 2. Tai atspindi kompanijos atsidavimą efektyvioms ir aukštos veiklos AI sprendimams.
Žvelgiant į ateitį, NVIDIA įkūrėjas ir CEO Jensenas Huangas atskleidė per pastarąjį GTC konferenciją, kad ateinantys NVIDIA Blackwell architektūros GPU turės dar aukštesnį veikimo lygį. Šie GPU bus specifiškai sukurti atitikti didėjančius didelių kalbos modelių poreikius, leisdami apmokyti ir įvykdyti daugiabilioninius parametro AI modelius.
Daugiau informacijos apie NVIDIAs pažangas kurtybinėje AI srityje ir jos MLPerf bandymus rasite [NVIDIA Official Website](https://www.nvidia.com).
[embedded content]
DUK:
Kas yra TensorRT-LLM?
TensorRT-LLM yra specialus įrankis, sukurtas NVIDIA, šūkiuoti įžangos užduotis dideliems kalbos modeliams (LLM). Tai pagerina produktyvumą ir efektyvumą kūrybinėse AI programose.
Kas yra MLPerf bandymai?
MLPerf bandymai yra rinkinys pramonės standartų bandymų, naudojamų įvertinti mašininio mokymosi sistemų ir modelių veikimą skirtingose srityse ir uždaviniuose.
Kas yra struktūrizuotas tarpumas?
Struktūrizuotas tarpumas yra technika, skirta sumažinti skaičiavimus AI modeliuose, nustatant ir naudojant duomenų tarpumo modelių šablonus. Tai padeda pagerinti efektyvumą ir greitą įžangos užduotis.
The source of the article is from the blog shakirabrasil.info