La startup tedesca gptshop.ai offre ora in vendita i tanto attesi superchip CPU-GPU GH200 di Nvidia. Questi potenti chip da 1.000 watt sono progettati per gestire compiti di addestramento e inferenza di intelligenza artificiale (AI) intensivi in ambienti server. Tuttavia, sono disponibili anche per workstation grazie agli sforzi innovativi di Bernhard Guentner, fondatore di gptshop.ai.
Insoddisfatto delle prestazioni delle schede RTX 4090 di Nvidia destinate ai consumatori nell’esecuzione di grandi modelli di intelligenza artificiale, Guentner ha deciso di integrare il GH200 in una workstation. Ha modificato un server QCT per renderlo compatibile con un case per PC tradizionali, permettendo capacità di calcolo ad alte prestazioni senza dover fare affidamento sui servizi cloud. Guentner è anche disponibile a costruire workstation personalizzate per i potenziali acquirenti interessati, con prezzi che vanno da €47.500 a €59.500.
Il GH200 combina il processore a 72 core Arm Neoverse V2 di Nvidia con 480 GB di memoria LPDDR5x e una GPU H100 dotata di 96 GB di memoria HBM3 o 141 GB di memoria HBM3e. Questa significativa capacità di memoria lo rende adatto all’esecuzione di modelli di grandi dimensioni, come il Meta LLama 2 70B, direttamente nella memoria HBM.
Tuttavia, l’integrazione del GH200 in una workstation tradizionale non è stata un’impresa facile. Guentner ha affrontato sfide nel sistemare il chip e la sua scheda madre in un case standard, così come nel raffreddare efficacemente il chip che richiede molta potenza. Utilizzando ventole Noctua multiple e una gestione attenta del flusso d’aria, Guentner è riuscito a mantenere temperature accettabili.
Sebbene attualmente si tratti di un prototipo, Guentner ha intenzione di costruire e vendere workstation ad alte prestazioni basate sul design del GH200, poiché c’è una domanda per sistemi così potenti. Il prezzo di partenza di €47.500 riflette la natura ad alte prestazioni della tecnologia e i costi associati ai chip GH200 di Nvidia. Guentner sta anche lavorando a una variante del sistema raffreddata a liquido.
In generale, l’offerta dei superchip GH200 di Nvidia per le workstation apre nuove possibilità per il calcolo ad alte prestazioni, in particolare per compiti legati all’intelligenza artificiale. Questi chip avanzati, combinati con soluzioni di design e raffreddamento innovative, promettono di offrire una potenza di calcolo senza precedenti per applicazioni esigenti.
Domande frequenti:
The source of the article is from the blog publicsectortravel.org.uk