Das deutsche Startup gptshop.ai bietet ab sofort Nvidia’s lang erwartete GH200 CPU-GPU Superchips zum Verkauf an. Diese leistungsstarken 1.000-Watt Chips sind für anspruchsvolle KI-Trainings- und Inferenzaufgaben in Serverumgebungen konzipiert. Dank der innovativen Bemühungen von Bernhard Guentner, dem Gründer von gptshop.ai, sind sie jedoch auch in einer Workstation erhältlich.
Guentner war mit der Leistung der Nvidia RTX 4090s für den Betrieb großer KI-Modelle nicht zufrieden und entschied sich daher, die GH200 in eine Workstation zu integrieren. Er modifizierte einen QCT-Server, um ihn in ein Consumer-PC-Gehäuse passen zu lassen und somit eine Hochleistungsrechenfähigkeit ohne Abhängigkeit von Cloud-Diensten zu ermöglichen. Guentner ist sogar bereit, maßgeschneiderte Workstations für interessierte Käufer zu bauen, mit Preisen zwischen 47.500 € und 59.500 €.
Die GH200 kombiniert Nvidias 72-Core Arm Neoverse V2-basierte CPU mit 480GB LPDDR5x-Speicher und einer H100-GPU, die entweder mit 96GB HBM3 oder 141GB HBM3e-Speicher ausgestattet ist. Diese große Speicherkapazität macht sie geeignet für den Betrieb großer Modelle wie Meta’s LLama 2 70B direkt im HBM.
Die Integration der GH200 in eine herkömmliche Workstation war jedoch keine einfache Aufgabe. Guentner musste die Herausforderung bewältigen, den Chip und sein Motherboard in ein Standardgehäuse einzufügen und den energiehungrigen Chip effektiv zu kühlen. Mit Hilfe von mehreren Noctua-Lüftern und einer sorgfältigen Luftstromsteuerung konnte Guentner akzeptable Temperaturen aufrechterhalten.
Obwohl es sich derzeit um einen Prototyp handelt, plant Guentner, auf Basis des GH200-Designs leistungsstarke Workstations zu bauen und zu verkaufen, da es eine Nachfrage nach solchen leistungsstarken Systemen gibt. Der Einstiegspreis von 47.500 € spiegelt die Hochleistungstechnologie und die Kosten für Nvidias GH200-Chips wider. Guentners Flüssigkühlungsvariante des Systems befindet sich ebenfalls in Arbeit.
Insgesamt eröffnet die Verfügbarkeit von Nvidias GH200 Superchips in Workstations neue Möglichkeiten für die Hochleistungsrechnung, insbesondere für KI-bezogene Aufgaben. Diese fortschrittlichen Chips, kombiniert mit innovativem Design und Kühllösungen, versprechen unvergleichliche Rechenleistung für anspruchsvolle Anwendungen.
FAQ-Bereich:
1. Was ist gptshop.ai?
– Gptshop.ai ist ein deutsches Start-up, das Nvidia’s GH200 CPU-GPU Superchips zum Verkauf anbietet.
2. Welche Features haben die GH200 Superchips?
– Die GH200 kombiniert Nvidias 72-Core Arm Neoverse V2-basierte CPU mit 480GB LPDDR5x-Speicher und einer H100-GPU, die entweder mit 96GB HBM3 oder 141GB HBM3e-Speicher ausgestattet ist.
3. Wofür sind die GH200 Superchips gedacht?
– Die GH200 Superchips sind für anspruchsvolle KI-Trainings- und Inferenzaufgaben in Serverumgebungen konzipiert.
4. Wie hat Bernhard Guentner die GH200 modifiziert?
– Bernhard Guentner hat einen QCT-Server modifiziert, um ihn in ein Consumer-PC-Gehäuse zu integrieren und somit Hochleistungsrechenaufgaben ohne Cloud-Dienste zu ermöglichen.
5. Können Kunden maßgeschneiderte Workstations anfordern?
– Ja, interessierte Käufer können maßgeschneiderte Workstations bei Bernhard Guentner anfordern. Die Preise liegen zwischen 47.500 € und 59.500 €.
6. Mit welchen Herausforderungen sah sich Guentner während des Integrationsprozesses konfrontiert?
– Guentner hatte Schwierigkeiten, den GH200-Chip und sein Motherboard in ein Standardgehäuse einzupassen und den energiehungrigen Chip effektiv zu kühlen.
7. Wie hat Guentner die Kühlherausforderungen bewältigt?
– Guentner verwendete mehrere Noctua-Lüfter und implementierte eine sorgfältige Luftstromsteuerung, um akzeptable Temperaturen aufrechtzuerhalten.
8. Ist der GH200 Superchip derzeit zum Verkauf verfügbar?
– Derzeit befindet sich der GH200 Superchip in der Prototypenphase, aber Guentner plant, leistungsstarke Workstations auf Basis seines Designs zu bauen und zu verkaufen.
9. Wie hoch ist der Einstiegspreis für GH200-basierte Workstations?
– Der Einstiegspreis für GH200-basierte Workstations liegt bei 47.500 € und spiegelt die Hochleistungstechnologie und die damit verbundenen Kosten wider.
10. Gibt es Pläne für eine Flüssigkehlvariante des Systems?
– Ja, Guentner arbeitet auch an einer Flüssigkehlvariante des GH200-basierten Systems.
Definitionen:
– GH200: Nvidias lang erwartete CPU-GPU Superchips, die für anspruchsvolle KI-Trainings- und Inferenzaufgaben konzipiert sind.
– GPU: Grafikprozessor, ein spezialisiertes elektronisches Bauteil, das die Erstellung und Darstellung von Bildern, Videos und Animationen beschleunigt.
– CPU: Zentralprozessor, die elektronische Schaltung innerhalb eines Computers, die Anweisungen ausführt, um Berechnungsaufgaben durchzuführen.
Vorgeschlagene verwandte Links:
– Nvidia
– Noctua
The source of the article is from the blog girabetim.com.br