Njemačka startup tvrtka gptshop.ai sada nudi visoko očekivane GH200 CPU-GPU Superčipove tvrtke Nvidia za prodaju. Ovi moćni čipovi snage od 1.000 W dizajnirani su za rukovanje teškim zadacima obuke i inferencije umjetne inteligencije u poslužiteljskim okruženjima. Međutim, također su dostupni i za radne stanice, zahvaljujući inovativnim naporima Bernharda Guentnera, osnivača gptshop.ai.
Nedovoljno zadovoljan performansama RTX 4090 kartica tvrtke Nvidia namijenjenih za pokretanje velikih modela umjetne inteligencije, Guentner se odlučio integrirati GH200 u radnu stanicu. On je modificirao QCT poslužitelj kako bi se uklopio u kućište osobnog računala, omogućavajući visokoperformansna računalna sposobnost bez oslanjanja na usluge u oblaku. Guentner je čak otvoren za izgradnju prilagođenih radnih stanica za zainteresirane kupce, s cijenama od 47.500 do 59.500 eura.
GH200 kombinira Nvidia-ov 72-jezgreni CPU temeljen na Arm Neoverse V2 arhitekturi s 480 GB LPDDR5x memorije i GPU H100 opremljen s 96 GB HBM3 ili 141 GB HBM3e memorije. Ova značajna memorija omogućuje pokretanje velikih modela izravno unutar HBM-a, kao što je Meta-ov LLama 2 70B.
Međutim, integracija GH200 u tradicionalnu radnu stanicu nije bila jednostavan zadatak. Guentner se suočio s izazovima u uklapanju čipa i matične ploče u standardno kućište, kao i s učinkovitim hlađenjem energijom gladnog čipa. Korištenjem više Noctua ventilatora i pažljivim upravljanjem protokom zraka, Guentner je uspio održavati prihvatljive temperature.
Iako je trenutno samo prototip, Guentner planira izgraditi i prodavati računalne radne stanice visokih performansi temeljene na dizajnu GH200, budući da postoji potražnja za takvim moćnim sustavima. Početna cijena od 47.500 eura odražava visokoperformansnu prirodu tehnologije i troškove povezane s Nvidia GH200 čipovima. Guentner također radi na tekućinskom hlađenju varijante sustava.
Sveukupno, dostupnost Nvidia GH200 Superčipova u radnim stanicama otvara nove mogućnosti za visokoperformansno računanje, posebno za zadatke vezane uz umjetnu inteligenciju. Ovi napredni čipovi, zajedno s inovativnim dizajnom i rješenjima za hlađenje, obećavaju pružiti neusporedivu računalnu snagu za zahtjevne aplikacije.
FAQ sekcija:
1. Što je gptshop.ai?
– Gptshop.ai je njemački startup koji nudi Nvidia GH200 CPU-GPU Superčipove za prodaju.
2. Koje su značajke GH200 Superčipova?
– GH200 kombinira Nvidia-ov 72-jezgreni CPU temeljen na Arm Neoverse V2 arhitekturi s 480 GB LPDDR5x memorije i GPU H100 opremljen s 96 GB HBM3 ili 141 GB HBM3e memorije.
3. Koja je svrha GH200 Superčipova?
– GH200 Superčipovi su dizajnirani za rukovanje teškim zadacima obuke i inferencije umjetne inteligencije u poslužiteljskim okruženjima.
4. Kako je Bernhard Guentner modificirao GH200?
– Bernhard Guentner je modificirao QCT poslužitelj kako bi se uklopio u kućište osobnog računala, omogućavajući visokoperformansne računalne sposobnosti bez oslanjanja na usluge u oblaku.
5. Mogu li kupci zatražiti prilagođene radne stanice?
– Da, zainteresirani kupci mogu zatražiti prilagođene radne stanice od Bernharda Guentnera, s cijenama od 47.500 do 59.500 eura.
6. S kojim je izazovima Guentner suočen tijekom integracijskog procesa?
– Guentner se suočio s izazovima u uklapanju GH200 čipa i matične ploče u standardno kućište, kao i učinkovitim hlađenjem energijom gladnog čipa.
7. Kako je Guentner prevladao izazove hlađenja?
– Guentner je koristio više Noctua ventilatora i implementirao pažljivo upravljanje protokom zraka kako bi održavao prihvatljive temperature.
8. Je li GH200 Superčip trenutno dostupan za kupnju?
– Trenutno je GH200 Superčip u fazi prototipa, ali Guentner planira izgraditi i prodavati radne stanice visokih performansi temeljene na njegovom dizajnu.
9. Koja je početna cijena radnih stanica temeljenih na GH200?
– Početna cijena radnih stanica temeljenih na GH200 iznosi 47.500 eura, odražavajući visokoperformansnu prirodu tehnologije i povezane troškove.
10. Postoje li planovi za tekućinsko hlađenje ove sistema?
– Da, Guentner radi i na tekućinsko hlađenoj varijanti sistema temeljenog na GH200.
The source of the article is from the blog smartphonemagazine.nl