VAST Data predstavuje novú AI výpočtovú architektúru v spolupráci s NVIDIA
VAST Data, spoločnosť pôsobiaca v oblasti AI dátových platforiem, oznámila uvedenie revolučnej AI cloudovej architektúry navrhnutej na zmenu výkonu, bezpečnosti a efektívnosti v oblasti AI tovární. Vyvinutá v spolupráci s NVIDIA a nasadená v CoreWeave, táto nová infraštruktúra využíva NVIDIA BlueField DPUs na zjednodušenie a škálovanie služieb spracovania údajov v oblasti AI.
NVIDIA BlueField sieťová platforma kombinuje výkonné výpočtové schopnosti a integrované hardvérové akcelerátory na vytvorenie bezpečnej a softvérovo definovanej infraštruktúry pre akcelerované výpočty pre AI. Integrovaním dedikovaných NVIDIA BlueField DPUs do každého servera s GPU architektúra VAST Data zahrňuje skladovanie a spracovanie databázy priamo do serverov AI, čo umožňuje skutočne lineárne dátové služby, ktoré sa môžu škálovať na státisíce GPU.
Táto nová architektúra AI továrne výrazne znižuje náklady, plochu a energetickú náročnosť súvisiacu so službami dát AI tým, že eliminuje viacnásobné vrstvy hardvéru a siete x86. Architektúra VAST Disagregated, Shared Everything (DASE), poháňaná NVIDIA BlueField-3, vyžaduje menej nezávislých výpočtových a sieťových zdrojov, čo vedie k 70% úspore energia a plochy dátového centra pre infraštruktúru VAST. Okrem toho táto architektúra umožňuje úspory spotreby energie o viac ako 5% v porovnaní s predchádzajúcou infraštrukturou distribuovaných dátových služieb od spoločnosti VAST Data.
Jednou z hlavných výhod tejto novej architektúry AI továrne je jej schopnosť poskytovať bezkonkurenčnú kvalitu služieb. Každý server s GPU dostane dedikovaný a paralelný úložný a databázový kontajner, čím eliminuje súčinnosť infraštruktúr pre dátové služby. Extrémna paralelizmus architektúry VAST DASE umožňuje každému NVIDIA BlueField-3 čítať a zapisovať do zdieľaných názvových priestorov platformy VAST Data bez koordinácie IO medzi kontajnermi. Týmto sa eliminuje súčinnosť infraštruktúry v jej jadre, čo je zásadné pre poskytovateľov viac-mandantných služieb, ktorí sa snažia splniť požiadavky na úrovne služieb svojich klientov a zároveň optimalizovať GPU výpočtové zdroje.
Pokiaľ ide o bezpečnosť, architektúra AI továrne od VAST zabezpečuje ochranu a izoláciu údajov a správu údajov od operačných systémov hostiteľa. Hostenie sieťovo pripojených služieb, objektových služieb a databázových služieb od NVIDIA BlueField-3 DPUs prostredníctvom štandardných klientovských protokolov, ako sú NFS, SMB, S3 a Apache Arrow, VAST eliminuje mnoho možností útokov v prostredí viac-mandantov.
Okrem týchto vylepšení VAST Data teraz poskytuje blokové dátové služby priamo operačným systémom hostiteľov, čím rozširuje už komplexnú súpravu prezentácií údajov, ktoré zahŕňajú súbory, objekty a databázové služby. Tento rozšírenie je možné vďaka integrovaniu softvérového rámca NVIDIA DOCA, umožňujúceho rýchly vývoj kontajnerizovaných služieb.
„This new architecture is the perfect showcase to express the parallelism of the VAST Data Platform. With NVIDIA BlueField-3 DPUs, we can now realize the full potential of our vision for disaggregated data centers that we’ve
The source of the article is from the blog scimag.news