Det tyske oppstartsselskapet gptshop.ai tilbyr nå Nvidias lenge etterlengtede GH200 CPU-GPU Superchips for salg. Disse kraftige 1 000 watt-brikkene er designet for å håndtere krevende AI-opplæring og slutninger i servermiljøer. Imidlertid er de også tilgjengelige i en arbeidsstasjon takket være de innovative anstrengelsene til Bernhard Guentner, grunnleggeren av gptshop.ai.
Guentner, som ikke var fornøyd med ytelsen til Nvidias RTX 4090-brikker for for arbeid med store AI-modeller, bestemte seg for å integrere GH200 i en arbeidsstasjon. Han modifiserte en QCT-server slik at den passet inn i et konsument PC-kabinett, slik at man kan benytte høytytende databehandling uten å være avhengig av skyløsninger. Guentner er til og med åpen for å bygge tilpassede arbeidsstasjoner for interesserte kjøpere, med priser som varierer fra € 47,500 til € 59,500.
GH200 kombinerer Nvidias 72-kjerners Arm Neoverse V2-baserte CPU med 480 GB LPDDR5x-minne og en H100-GPU som er utstyrt med enten 96 GB HBM3 eller 141 GB HBM3e-minne. Denne betydelige minnekapasiteten gjør det egnet for å kjøre store modeller, som for eksempel Meta’s LLama 2 70B, direkte i HBM.
Imidlertid var det ingen enkel oppgave å integrere GH200 i en tradisjonell arbeidsstasjon. Guentner møtte utfordringer med å plassere brikken og hovedkortet i et standard kabinett, samt å kjøle ned den strømkrevende brikken effektivt. Ved hjelp av flere Noctua-vifter og forsiktig styring av luftstrømmen, klarte Guentner å opprettholde akseptable temperaturer.
Mens det for øyeblikket er en prototype, har Guentner planer om å bygge og selge høytytende arbeidsstasjoner basert på GH200-designet, da det er etterspørsel etter slike kraftige systemer. Startprisen på € 47,500 gjenspeiler den høytytende naturen til teknologien og kostnadene forbundet med Nvidias GH200-brikker. Guentners variant av systemet med væskekjøling er også under utvikling.
Alt i alt åpner tilgjengeligheten av Nvidias GH200 Superchips i arbeidsstasjoner opp for nye muligheter for høytytende databehandling, spesielt for AI-relaterte oppgaver. Disse avanserte brikken, kombinert med innovativ design og kjøleløsninger, lover enestående databehandlingskraft for krevende applikasjoner.
Ofte stilte spørsmål:
1. Hva er gptshop.ai?
– Gptshop.ai er en tysk oppstart som tilbyr Nvidias GH200 CPU-GPU Superchips for salg.
2. Hva er funksjonene til GH200 Superchips?
– GH200 kombinerer Nvidias 72-kjerners Arm Neoverse V2-baserte CPU med 480 GB LPDDR5x-minne og en H100-GPU som er utstyrt med enten 96 GB HBM3 eller 141 GB HBM3e-minne.
3. Hva er formålet med GH200 Superchips?
– GH200 Superchips er designet for å håndtere krevende AI-opplæring og slutninger i servermiljøer.
4. Hvordan modifiserte Bernhard Guentner GH200?
– Bernhard Guentner modifiserte en QCT-server slik at den passet inn i et konsument PC-kabinett, slik at man kan benytte høytytende databehandling uten å være avhengig av skyløsninger.
5. Kan kunder be om tilpassede arbeidsstasjoner?
– Ja, interesserte kjøpere kan be om tilpassede arbeidsstasjoner fra Bernhard Guentner, med priser som varierer fra € 47,500 til € 59,500.
6. Hvilke utfordringer møtte Guentner under integreringsprosessen?
– Guentner møtte utfordringer med å plassere GH200-brikken og hovedkortet i et standard kabinett, i tillegg til å kjøle ned den strømkrevende brikken effektivt.
7. Hvordan overvant Guentner utfordringene med kjøling?
– Guentner brukte flere Noctua-vifter og implementerte forsiktig luftstrømstyring for å opprettholde akseptable temperaturer.
8. Er GH200 Superchip for tiden tilgjengelig for kjøp?
– For øyeblikket er GH200 Superchip i prototypstadiet, men Guentner planlegger å bygge og selge høytytende arbeidsstasjoner basert på designet.
9. Hva er startprisen for arbeidsstasjoner basert på GH200?
– Startprisen for arbeidsstasjoner basert på GH200 er € 47,500, noe som gjenspeiler den høytytende naturen til teknologien og de tilknyttede kostnadene.
10. Er det planer om en variant av systemet med væskekjøling?
– Ja, Guentner jobber også med en variant av GH200-basert system med væskekjøling.
Definisjoner:
– GH200: Nvidias svært etterlengtede CPU-GPU Superchips designet for krevende AI-opplæring og slutninger.
– GPU: Grafikkbehandlingsenhet, en spesialisert elektronisk krets som akselererer opprettelsen og renderingen av bilder, videoer og animasjoner.
– CPU: Sentral prosesseringsenhet, elektronisk kretsløp innenfor en datamaskin som utfører instruksjoner for å utføre beregningsoppgaver.
Foreslåtte relaterte lenker:
– Nvidia
– Noctua
The source of the article is from the blog klikeri.rs