VAST Data, společnost specializující se na platformu pro analýzu dat v oblasti umělé inteligence, oznámila spuštění průlomové architektury cloudu pro umělou inteligenci, navržené tak, aby revolučně změnila výkon, bezpečnost a efektivitu továren na umělou inteligenci. Vyvinutý ve spolupráci s NVIDIA a nasazený v CoreWeave, tento nový infrastrukturní design využívá síly NVIDIA BlueField DPUs k zjednodušení a škálování datových služeb v oblasti umělé inteligence.
Platforma NVIDIA BlueField síťových technologií kombinuje výkonné výpočetní schopnosti a integrované hardwarové akcelerátory k vytvoření zabezpečené infrastruktury pro akcelerované počítačové technologie definované softwarem pro oblast umělé inteligence. Integrací dedikovaných NVIDIA BlueField DPUs do každého serveru s GPU v architektuře VAST Data jsou základními službami uložiště a spracování databází přímo zabudovány do serverů s umělou inteligencí, což umožňuje skutečně lineární datové služby, které lze škálovat na stovky tisíců GPU.
Tato nová architektura továrny na umělou inteligenci podstatně snižuje náklady, místo a spotřebu energie související s datovými službami. Architektura Disagregované, Sdílené Všechno (DASE) společnosti VAST, poháněná technologií NVIDIA BlueField-3, vyžaduje méně nezávislých výpočetních a síťových zdrojů, čímž dosahuje 70% úspory energie a snížení prostorových nároků datových center pro infrastrukturu VAST. Navíc tato architektura umožňuje úsporu čisté spotřeby energie o více než 5% ve srovnání s předchozí infrastrukturou VAST pro distribuované datové služby.
Jednou z hlavních výhod této nové architektury továrny na umělou inteligenci je její schopnost poskytovat nepřekonatelnou úroveň služeb. Každý server s GPU obdrží dedikovaný a paralelní kontejner pro uložiště a databázi, což eliminuje soutěžení o infrastrukturu datových služeb. Extrémní paralelismus architektury DASE společnosti VAST umožňuje každému NVIDIA BlueField-3 číst a zapisovat do sdílených jmenných prostorů Platformy VAST Data bez koordinace vstupně-výstupních operací mezi kontejnery. Tímto se jádrově eliminuje soutěžení o infrastrukturu, což je zásadní pro poskytovatele multi-tenant služeb, kteří si klade za cíl splnit cíle úrovně služeb svých klientů při optimalizaci výpočetních prostředků GPU.
Pokud jde o bezpečnost, architektura továrny na umělou inteligenci společnosti VAST zajišťuje ochranu a izolaci dat a správy dat od operačních systémů hostitelů. Hostitelské služby sítě, objektové služby a databázové služby jsou hostovány z technologií NVIDIA BlueField-3 DPUs pomocí standardních klientů jako NFS, SMB, S3 a Apache Arrow. Tím společnost VAST eliminuje řadu možných útokových vektorů v multi-tenant prostředí.
Kromě těchto vylepšení nyní společnost VAST Data nyní nabízí blokové úložiště natively pro operační systémy hostitelů, čímž rozšiřuje již komplexní soubor prezentací dat, které zahrnují služby pro soubory, objekty a databáze. Tento rozvoj je možný díky integraci softwarového rámce NVIDIA DOCA, který umožňuje rychlý vývoj kontejnerizovaných služeb.
„Tato nová architektura je ideální ukázkou projevu paralelismu Platformy VAST Data. S NVIDIA BlueField-3 DPUs nyní můžeme realizovat plný potenciál naší vize pro disagregovaná datová centra, na kterých jsme pracovali od založení společnosti,“ řekl Jeff Denworth, spoluzakladatel společnosti VAST Data.
Nová architektura od VAST, běžící na softwaru VAST na BlueField DPUs v serverech s umělou inteligencí, je v současné době testována a nasazována v CoreWeave, předním specializovaným poskytovateli GPU cloudů. Tato spolupráce si klade za cíl vybudovat vysoce škálovatelné strojové zařízení AI a posílit schopnosti továren na umělou inteligenci pro prestižní LLM stavitele a nadnárodní podniky.
„Revoluční architektura společnosti VAST je hrou otevřených dveří pro CoreWeave, umožňující nám plně segmentovat data centra. Bezproblémově integrujeme pokročilý software společnosti VAST přímo do našich skupin GPU,“ řekl Peter Salanki, viceprezident inženýrství společnosti CoreWeave. „Nativní začlenění úložišť a databázových služeb do BlueField nám nejen usnadňuje infrastrukturu, ale také zlepšuje uživatelský zážitek pro naše zákazníky tím, že odstraňuje zácpy v datovém výpočetním potrubí pro umělou inteligenci. CoreWeave se tedy nejen drží kroku s budoucností správy cloudových dat – definujeme ji.“
Často kladené otázky
The source of the article is from the blog publicsectortravel.org.uk