Det tyske startup gptshop.ai tilbyder nu Nvidia’s meget ventede GH200 CPU-GPU Superchips til salg. Disse kraftfulde 1.000 Watt-chips er designet til at håndtere tunge AI-trænings- og inferencetasks i servermiljøer. Dog er de også tilgængelige til workstations takket være de innovative bestræbelser fra Bernhard Guentner, grundlæggeren af gptshop.ai.
Guentner, utilfreds med præstationen af Nvidia’s forbrugerklasse RTX 4090s til kørsel af store AI-modeller, besluttede at integrere GH200 i en workstation. Han modificerede en QCT-server til at passe ind i et forbruger-pc-kabinet, hvilket giver mulighed for højtydende databehandlingskapacitet uden at være afhængig af cloud-tjenester. Guentner er endda åben for at bygge brugerdefinerede workstations til interesserede købere, med priser der spænder fra €47.500 til €59.500.
GH200 kombinerer Nvidias 72-core Arm Neoverse V2-baserede CPU med 480 GB LPDDR5x-hukommelse og en H100 GPU udstyret enten med 96 GB HBM3 eller 141 GB HBM3e-hukommelse. Denne betydelige hukommelseskapacitet gør den velegnet til kørsel af store modeller direkte inden for HBM, såsom Meta’s LLama 2 70B.
Dog var det ikke en nem opgave at integrere GH200 i en traditionel workstation. Guentner stod over for udfordringer med at få chippen og dens bundkort til at passe ind i et standardkabinet samt at køle den strømkrævende chip effektivt. Ved hjælp af flere Noctua-blæsere og omhyggelig luftstrømsstyring lykkedes det Guentner at opretholde acceptable temperaturer.
Mens det i øjeblikket er en prototype, har Guentner planer om at bygge og sælge højtydende workstations baseret på GH200-designet, da der er efterspørgsel efter sådanne kraftfulde systemer. Startprisen på €47.500 afspejler den højtydende teknologis karakter og omkostningerne forbundet med Nvidia’s GH200-chips. Guentners flydende-kølede variant af systemet er også under udvikling.
Alt i alt åbner tilgængeligheden af Nvidia’s GH200 Superchips i workstations op for nye muligheder for højtydende databehandling, især til AI-relaterede opgaver. Disse avancerede chips, kombineret med innovative design- og køleløsninger, lover enestående databehandlingskraft til krævende anvendelser.
FAQ-sektion:
1. Hvad er gptshop.ai?
– Gptshop.ai er en tysk startup, der tilbyder Nvidia’s GH200 CPU-GPU Superchips til salg.
2. Hvad er funktionerne i GH200 Superchips?
– GH200 kombinerer Nvidias 72-core Arm Neoverse V2-baserede CPU med 480 GB LPDDR5x-hukommelse og en H100 GPU udstyret enten med 96 GB HBM3 eller 141 GB HBM3e-hukommelse.
3. Hvad er formålet med GH200 Superchips?
– GH200 Superchips er designet til at håndtere tunge AI-trænings- og inferencetasks i servermiljøer.
4. Hvordan modificerede Bernhard Guentner GH200?
– Bernhard Guentner modificerede en QCT-server til at passe ind i et forbruger-pc-kabinet, hvilket giver mulighed for højtydende databehandlingskapacitet uden at være afhængig af cloud-tjenester.
5. Kan kunder anmode om brugerdefinerede workstations?
– Ja, interesserede købere kan anmode om brugerdefinerede workstations fra Bernhard Guentner, med priser der spænder fra €47.500 til €59.500.
6. Hvilke udfordringer stod Guentner over for under integrationsprocessen?
– Guentner stod over for udfordringer med at få GH200-chippen og dens bundkort til at passe ind i et standardkabinet og køle den strømkrævende chip effektivt.
7. Hvordan overvandt Guentner kølingsudfordringerne?
– Guentner brugte flere Noctua-blæsere og implementerede omhyggelig luftstrømsstyring for at opretholde acceptable temperaturer.
8. Er GH200 Superchippen i øjeblikket tilgængelig til køb?
– I øjeblikket befinder GH200 Superchippen sig i prototypstadiet, men Guentner planlægger at bygge og sælge højtydende workstations baseret på dens design.
9. Hvad er startprisen for GH200-baserede workstations?
– Startprisen for GH200-baserede workstations er €47.500, hvilket afspejler den højtydende teknologis karakter og de forbundne omkostninger.
10. Er der planer om en flydende-kølet variant af systemet?
– Ja, Guentner arbejder også på en flydende-kølet variant af GH200-baseret system.
Definitioner:
– GH200: Nvidias meget ventede CPU-GPU Superchips designet til tunge AI-trænings- og inferencetasks.
– GPU: Grafikkort, en specialiseret elektronisk kreds, der accelererer oprettelsen og renderingen af billeder, videoer og animationer.
– CPU: Central Processing Unit, det elektroniske kredsløb inden i en computer, der udfører instruktioner for at udføre beregningstasks.
Foreslåede relaterede links:
– Nvidia
– Noctua
The source of the article is from the blog mivalle.net.ar