Německá firma gptshop.ai nyní nabízí k prodeji vysoce očekávané CPU-GPU superčipy Nvidia GH200. Tyto výkonné čipy s výkonem 1 000 wattů jsou navrženy pro zpracování náročných úloh podporujících trénování a inference umělé inteligence v prostředí serverů. Díky inovativnímu přístupu zakladatele firmy gptshop.ai, Bernharda Guentnera, jsou však také k dispozici v pracovní stanici.
Guentner, nespokojený s výkonem konzumních RTX 4090 od Nvidie pro provoz velkých modelů umělé inteligence, se rozhodl začlenit čip GH200 do pracovní stanice. Upravil server od společnosti QCT tak, aby se vešel do skříně běžného osobního počítače, což umožňuje výpočetní schopnosti s vysokým výkonem bez závislosti na cloudových službách. Guentner je dokonce ochoten stavět zakázkové pracovní stanice pro zájemce, s cenami od 47 500 € do 59 500 €.
GH200 kombinuje 72-jádrový procesor Arm Neoverse V2 od Nvidie s kapacitou 480 GB LPDDR5x paměti a GPU H100 vybavenou buď 96 GB paměti HBM3 nebo 141 GB paměti HBM3e. Tato významná kapacita paměti je vhodná pro provozování velkých modelů, jako je Meta’s LLama 2 70B, přímo v paměti HBM.
Avšak začlenění GH200 do běžné pracovní stanice nebylo jednoduchým úkolem. Guentner se potýkal s problémy při instalaci čipu a jeho základní desky do standardní skříně a také s efektivním chlazením čipu s vysokou spotřebou energie. Díky použití několika ventilátorů značky Noctua a pečlivému řízení průtoku vzduchu se Guentnerovi podařilo udržet přijatelné teploty.
I když je v současné době pouze prototyp, Guentner plánuje stavět a prodávat výkonné pracovní stanice na základě návrhu GH200, protože existuje poptávka po takovýchto výkonných systémech. Počáteční cena 47 500 € odráží výkonnostní charakter technologie a náklady spojené s čipy GH200 od Nvidie. Guentner pracuje také na variantě systému s kapalinovým chlazením.
Celkově vzato, dostupnost superčipů GH200 od Nvidie v pracovních stanicích otevírá nové možnosti pro výkonné výpočty, zejména pro úlohy související s umělou inteligencí. Tyto pokročilé čipy, spolu s inovativním designem a řešeními chlazení, slibují poskytnout bezkonkurenční výpočetní sílu pro náročné aplikace.
Často kladené otázky:
1. Co je gptshop.ai?
– Gptshop.ai je německá startupová firma, která nabízí k prodeji CPU-GPU superčipy GH200 od společnosti Nvidia.
2. Jaké jsou vlastnosti superčipů GH200?
– GH200 kombinuje 72-jádrový procesor Arm Neoverse V2 od Nvidie s kapacitou 480 GB LPDDR5x paměti a GPU H100 vybavenou buď 96 GB paměti HBM3 nebo 141 GB paměti HBM3e.
3. Jaký je účel superčipů GH200?
– Superčipy GH200 jsou navrženy pro zpracování náročných úloh souvisejících s trénováním a inferencí umělé inteligence v prostředí serverů.
4. Jak Bernhard Guentner modifikoval GH200?
– Bernhard Guentner upravil server od společnosti QCT tak, aby se vešel do skříně běžného osobního počítače, a umožnil tak výkonné výpočetní schopnosti bez závislosti na cloudových službách.
5. Můžou zákazníci požadovat zakázkové pracovní stanice?
– Ano, zájemci si mohou u Bernharda Guentnera objednat zakázkové pracovní stanice s cenami od 47 500 € do 59 500 €.
6. S jakými výzvami se Guentner potýkal během procesu integrace?
– Guentner se potýkal s problémy při instalaci čipu GH200 a základní desky do běžné skříně a efektivním chlazením čipu s vysokou spotřebou energie.
7. Jak Guentner překonal výzvu chlazení?
– Guentner použil několik ventilátorů značky Noctua a upravil řízení průtoku vzduchu, aby udržel přijatelné teploty.
8. Je superčip GH200 momentálně k dispozici k nákupu?
– V současné době je superčip GH200 ve fázi prototypu, ale Guentner plánuje stavět a prodávat výkonné pracovní stanice na základě jeho návrhu.
9. Jaká je počáteční cena pracovních stanic založených na superčipech GH200?
– Počáteční cena pracovních stanic založených na superčipech GH200 je 47 500 €, což odráží výkonnostní charakter technologie a s tím spojené náklady.
10. Existují plány na variantu systému s kapalinovým chlazením?
– Ano, Guentner pracuje také na variantě systému s kapalinovým chlazením založeného na čipu GH200.
Definice:
– GH200: Výkonné CPU-GPU superčipy od Nvidie, které jsou vysoce očekávány a určeny pro náročné úlohy související s trénováním a inferencí umělé inteligence.
– GPU: Grafický akcelerátor, specializovaný elektronický obvod, který zrychluje tvorbu a vykreslování obrázků, videí a animací.
– CPU: Centrální procesor, elektronický obvod uvnitř počítače, který provádí instrukce pro provádění výpočetních úloh.
Navrhované související odkazy:
– Nvidia
– Noctua
The source of the article is from the blog reporterosdelsur.com.mx