Niemiecka firma startupowa gptshop.ai oferuje teraz oczekiwane z niecierpliwością układy GH200 CPU-GPU Superchips firmy Nvidia na sprzedaż. Te potężne układy o mocy 1000 W są zaprojektowane do obsługi ciężkich zadań szkolenia i wnioskowanie w środowiskach serwerowych. Jednak dzięki innowacyjnym wysiłkom Bernharda Guentnera, założyciela gptshop.ai, są one również dostępne w stacji roboczej.
Guentner, niezadowolony z wydajności kart NVIDIA RTX 4090 dla dużych modeli sztucznej inteligencji, postanowił zintegrować układ GH200 w stacji roboczej. Zmodyfikował serwer QCT, aby pasował do obudowy komputera dla użytkownika domowego, co umożliwiło wykorzystanie obliczeń o dużej wydajności bez polegania na usługach chmurowych. Guentner jest nawet otwarty na budowanie niestandardowych stacji roboczych dla zainteresowanych kupujących, których ceny wahają się od 47 500 € do 59 500 €.
Układ GH200 łączy 72-rdzeniowy procesor CPU Arm Neoverse V2 firmy Nvidia z 480 GB pamięci LPDDR5x i GPU H100 wyposażonym w 96 GB pamięci HBM3 lub 141 GB pamięci HBM3e. Duża pojemność pamięci sprawia, że jest on odpowiedni do uruchamiania dużych modeli, takich jak LLama 2 70B od Meta, bezpośrednio w pamięci HBM.
Jednak zintegrowanie układu GH200 z tradycyjną stacją roboczą nie było łatwym zadaniem. Guentner musiał zmierzyć się z wyzwaniami takimi jak dopasowanie układu i jego płyty głównej do standardowej obudowy, a także skutecznym chłodzeniu mocno prądożernego układu. Za pomocą wielu wentylatorów Noctua i starannego zarządzania przepływem powietrza Guentnerowi udało się utrzymać akceptowalne temperatury.
Obecnie będąc w fazie prototypu, Guentner planuje budować i sprzedawać stacje robocze o dużej wydajności oparte na projekcie układu GH200, ponieważ istnieje popyt na takie mocne systemy. Początkowa cena 47 500 € odzwierciedla charakter wysoko wydajnościowej technologii i koszty związane z układami GH200 firmy Nvidia. Trwają również prace nad wersją systemu chłodzonym cieczą.
Ogólnie dostępność układów GH200 Superchips firmy Nvidia w stacjach roboczych otwiera nowe możliwości w zakresie obliczeń o wysokiej wydajności, szczególnie w zastosowaniach związanych z sztuczną inteligencją. Te zaawansowane układy, połączone z innowacyjnym projektem i rozwiązaniami chłodzącymi, obiecują dostarczenie niezrównanej mocy obliczeniowej do wymagających zadań.
Sekcja FAQ:
The source of the article is from the blog guambia.com.uy