Nvidia nedávno predstavila svoju novú sériu čipov Blackwell, ktorá prichádza s revolučnými technológiami pre spracovanie umelej inteligencie (UI). Táto inovatívna séria čipov a softvéru je špeciálne navrhnutá na spúšťanie modelov umelej inteligencie, čím otvára cestu k novým možnostiam pre podniky a vývojárov.
Prvý čip v sérii Blackwell, známy ako GB200, by mal byť uvedený na trh neskôr tento rok. Podľa Nvidia ponúkajú čipy založené na Blackwell významný skok výkonu s 20 petaflops vo výkone umelej inteligencie v porovnaní s predchádzajúcou sériou H100, ktorá ponúkala len 4 petaflops. To znamená, že spoločnosti v oblasti umelej inteligencie teraz budú mať prístup k silnejším spracovacím schopnostiam, čo im umožní trénovať väčšie a zložitejšie modely umelej inteligencie.
Jednou z kľúčových vlastností čipu Blackwell je jeho „transformer engine“, ktorý je špeciálne navrhnutý na spúšťanie transformer-based UI. Táto technológia je kľúčová pre spúšťanie modelov UI ako ChatGPT, ktoré spočívajú na transformerov ako ich hlavnej architektúre.
Grafický procesor Blackwell je pozoruhodným kúskom inžinierskej práce, ktorý kombinuje dva samostatné čipy do jedného čipu vyrábaného spoločnosťou TSMC. Okrem toho Nvidia ponúkne GB200 ako kompletný server s názvom GB200 NVLink 2, ktorý pozostáva z 72 grafických procesorov Blackwell a ďalších komponentov od Nvidie navrhnutých na uľahčenie trénovania modelov umelej inteligencie.
Pokiaľ ide o dostupnosť, hlavní poskytovatelia cloudových služieb ako Amazon, Google, Microsoft a Oracle umožnia prístup k GB200 prostredníctvom svojich cloudových služieb. Amazon Web Services napríklad plánuje vybudovať serverový zväzok s impozantnými 20 000 čipmi GB200. Tento typ infraštruktúry umožní spoločnostiam nasadiť modely s až 27 biliónmi parameterov, predstihujúc dokonca aj najväčšie modely momentálne dostupné na trhu.
Čo sa týka nákladov, konkrétne ceny GB200 a súvisiacich systémov neboli zverejnené spoločnosťou Nvidia. Avšak odhady analytikov naznačujú, že predchádzajúci čip H100, ktorý séria Blackwell nahradzuje, stojí medzi 25 000 až 40 000 dolármi za čip, pričom celé systémy môžu stáť až 200 000 dolárov.
Okrem hardvérových inovácií Nvidia tiež predstavila nový softvér s názvom NIM. Tento softvér si kladie za cieľ uľahčiť spoločnostiam využívanie starších grafických procesorov od Nvidie na inferenciu, proces spúšťania softvéru UI. NIM umožňuje spoločnostiam ďalej využívať grafické procesory, ktoré už vlastnia, čím ponúka ekonomické riešenie pre podniky, ktoré chcú spúšťať vlastné modely umelej inteligencie namiesto závislosti na poskytovateľoch UI-as-a-service.
Ambíciou Nvidie pri predstavení NIM je podnecovať zákazníkov, ktorí nakupujú servery založené na Nvidia, aby sa prihlásili aj k predplatnému podnikového softvéru od Nvidie. S ročným poplatkom za licenciu vo výške 4 500 dolárov za grafický procesor poskytuje podnikový softvér od Nvidie podnikom nevyhnutné nástroje na efektívne spúšťanie ich modelov umelej inteligencie na vlastných serveroch alebo na serveroch založených na cloude od Nvidie. Táto integrácia sa bezproblémovo hodí k populárnym platformám umelého učenia ako Microsoft a Hugging Face.
Časté otázky
Q: Čo je séria Blackwell?
A: Série Blackwell je nová generácia čipov a softvéru od Nvidie, navrhnutá pre spúšťanie modelov umelej inteligencie.
Q: Kedy bude uvedený prvý čip Blackwell na trh?
A: Prvý čip Blackwell, GB200, sa očakáva neskôr tento rok.
Q: V čom sa séria Blackwell líši od predchádzajúcej série H100?
A: Série Blackwell ponúka významné zlepšenie výkonu v porovnaní s sériou H100, s 20 petaflops vo výkone umelej inteligencie oproti 4 petaflops.
Q: Čo je funkcia transformer engine čipu Blackwell?
A: Transformer engine je špecializovaná súčasť čipu Blackwell navrhnutá na spúšťanie AI založenej na transformeroch, kľúčovej technológie v modeloch ako ChatGPT.
Q: Budú dostupné čipy Blackwell cez cloudové služby?
A: Áno, hlavní poskytovatelia cloudových služieb ako Amazon, Google, Microsoft a Oracle umožnia prístup k čipom Blackwell cez svoje cloudové služby.
Q: Koľko budú stáť čipy Blackwell?
A: Konkrétne ceny neboli zverejnené, ale odhady naznačujú, že predchádzajúci čip H100 stál medzi 25 000 a 40 000 dolármi za čip.
Q: Čo je NIM?
A: NIM je nový softvérový produkt od Nvidie, ktorý si kladie za cieľ uľahčiť využívanie starších grafických procesorov Nvidie na inferenciu, proces spúšťania softvéru umelej inteligencie.
Q: Koľko stojí predplatné na podnikový softvér od Nvidie?
A: Ročný licenčný poplatok za podnikový softvér od Nvidie je 4 500 dolárov za grafický procesor.
Čipy Blackwell od Nvidie predstavujú dôležitý krok vpred v technológii spracovania umelej inteligencie. S ich výkonnými schopnosťami a inovatívnymi funkciami poskytujú čipy Blackwell a sprievodný softvér spoločnostiam v oblasti umelej inteligencie potrebné nástroje na trénovanie a nasadenie väčších a sofistikovanejších modelov umelej inteligencie. Keďže Nvidia pokračuje vo vývoji do celkového poskytovateľa platformy, je pripravená zostať v popredí revolúcie umelej inteligencie.
The source of the article is from the blog foodnext.nl