Het Duitse startupbedrijf gptshop.ai biedt nu Nvidia’s langverwachte GH200 CPU-GPU Superchips te koop aan. Deze krachtige chips van 1.000 watt zijn ontworpen om zware AI-trainings- en inferentietaken uit te voeren in serveromgevingen. Dankzij de innovatieve inspanningen van Bernhard Guentner, de oprichter van gptshop.ai, zijn ze echter ook beschikbaar in een werkstation.
Guentner was niet tevreden met de prestaties van Nvidia’s RTX 4090s van consumentenkwaliteit voor het uitvoeren van grote AI-modellen, dus besloot hij de GH200 in een werkstation te integreren. Hij paste een QCT-server aan zodat deze in een consumenten-pc-behuizing paste, waardoor het mogelijk werd om high-performance computing mogelijkheden te bieden zonder afhankelijk te zijn van cloudservices. Guentner is zelfs bereid om op maat gemaakte werkstations te bouwen voor geïnteresseerde kopers, met prijzen variërend van €47.500 tot €59.500.
De GH200 combineert Nvidia’s 72-core Arm Neoverse V2-gebaseerde CPU met 480GB LPDDR5x-geheugen en een H100 GPU voorzien van 96GB HBM3-geheugen of 141GB HBM3e-geheugen. Deze aanzienlijke geheugencapaciteit maakt het geschikt voor het uitvoeren van grote modellen, zoals Meta’s LLama 2 70B, rechtstreeks binnen de HBM.
Het integreren van de GH200 in een traditioneel werkstation was echter geen eenvoudige taak. Guentner had te maken met uitdagingen bij het passend maken van de chip en het moederbord in een standaard behuizing, en het effectief koelen van de energieverslindende chip. Met behulp van meerdere Noctua-ventilatoren en zorgvuldig luchtstroombeheer slaagde Guentner erin om acceptabele temperaturen te handhaven.
Hoewel het momenteel nog een prototype is, heeft Guentner plannen om op de GH200-ontwerp gebaseerde high-performance werkstations te bouwen en verkopen, aangezien er vraag is naar dergelijke krachtige systemen. De startprijs van €47.500 weerspiegelt de high-performance aard van de technologie en de kosten verbonden aan Nvidia’s GH200-chips. Guentner werkt ook aan een vloeistofgekoelde variant van het systeem.
Al met al opent de beschikbaarheid van Nvidia’s GH200 Superchips in werkstations nieuwe mogelijkheden voor high-performance computing, specifiek voor AI-gerelateerde taken. Deze geavanceerde chips, gecombineerd met innovatieve ontwerp- en koeloplossingen, beloven ongeëvenaarde rekenkracht te bieden voor veeleisende toepassingen.
FAQ:
1. Wat is gptshop.ai?
– Gptshop.ai is een Duits startupbedrijf dat Nvidia’s GH200 CPU-GPU Superchips te koop aanbiedt.
2. Wat zijn de kenmerken van de GH200 Superchips?
– De GH200 combineert Nvidia’s 72-core Arm Neoverse V2-gebaseerde CPU met 480GB LPDDR5x-geheugen en een H100 GPU voorzien van 96GB HBM3-geheugen of 141GB HBM3e-geheugen.
3. Wat is het doel van de GH200 Superchips?
– De GH200 Superchips zijn ontworpen om zware AI-trainings- en inferentietaken uit te voeren in serveromgevingen.
4. Hoe heeft Bernhard Guentner de GH200 aangepast?
– Bernhard Guentner paste een QCT-server aan zodat deze in een consumenten-pc-behuizing paste, waardoor high-performance computing mogelijk werd zonder afhankelijk te zijn van cloudservices.
5. Kunnen klanten op maat gemaakte werkstations aanvragen?
– Ja, geïnteresseerde kopers kunnen op maat gemaakte werkstations aanvragen bij Bernhard Guentner, met prijzen variërend van €47.500 tot €59.500.
6. Welke uitdagingen ondervond Guentner tijdens het integratieproces?
– Guentner had te maken met uitdagingen bij het passend maken van de GH200-chip en het moederbord in een standaard behuizing, en bij het effectief koelen van de energieverslindende chip.
7. Hoe heeft Guentner de koeluitdagingen overwonnen?
– Guentner gebruikte meerdere Noctua-ventilatoren en implementeerde zorgvuldig luchtstroombeheer om acceptabele temperaturen te behouden.
8. Is de GH200 Superchip momenteel te koop?
– Op dit moment bevindt de GH200 Superchip zich in het prototypestadium, maar Guentner heeft plannen om gebaseerd op het ontwerp high-performance werkstations te bouwen en verkopen.
9. Wat is de startprijs voor de werkstations gebaseerd op de GH200?
– De startprijs voor de werkstations gebaseerd op de GH200 is €47.500, wat de high-performance aard van de technologie en de bijbehorende kosten weerspiegelt.
10. Zijn er plannen voor een vloeistofgekoelde variant van het systeem?
– Ja, Guentner werkt ook aan een vloeistofgekoelde variant van het GH200-gebaseerde systeem.
Definities:
– GH200: Nvidia’s langverwachte CPU-GPU Superchips ontworpen voor zware AI-trainings- en inferentietaken.
– GPU: Grafische verwerkingseenheid, een gespecialiseerde elektronische schakeling die de creatie en weergave van beelden, video’s en animaties versnelt.
– CPU: Centrale verwerkingseenheid, de elektronische schakeling binnen een computer die instructies uitvoert om berekeningstaken uit te voeren.
Voorgestelde gerelateerde links:
– Nvidia
– Noctua
The source of the article is from the blog macholevante.com