Новые горизонты разработки AI: революционная архитектура облачного ИИ
VAST Data, компания, специализирующаяся на платформах данных для AI, объявила о запуске инновационной архитектуры облачного ИИ, разработанной для революционизации производительности, безопасности и эффективности фабрик искусственного интеллекта. Новая структура, созданная в сотрудничестве с NVIDIA и развернутая в CoreWeave, использует процессоры данных NVIDIA BlueField для упрощения и масштабирования услуг обработки данных в области ИИ.
Платформа сетевого оборудования NVIDIA BlueField объединяет мощные вычислительные возможности и интегрированные аппаратные ускорители, чтобы создать безопасную и программируемую инфраструктуру для ускоренных вычислений в области искусственного интеллекта. Путем интеграции специализированных процессоров данных NVIDIA BlueField в каждый сервер GPU, архитектура VAST Data внедряет сервисы хранения и обработки баз данных непосредственно на серверах ИИ, обеспечивая линейные службы обработки данных, которые могут масштабироваться до сотен тысяч GPU.
Эта новая архитектура фабрики ИИ существенно снижает затраты, площадь и энергопотребление, связанные с обслуживанием данных в области ИИ, путем устранения многочисленных уровней аппаратного обеспечения x86 и сетевых элементов. Архитектура VAST с дезагрегированной, всем доступной (DASE), поддерживаемой процессорами NVIDIA BlueField-3, требует меньшего количества независимых вычислительных и сетевых ресурсов, что приводит к сокращению потребления энергии и площади дата-центра на 70% для инфраструктуры VAST. Более того, эта архитектура обеспечивает снижение общего энергопотребления на более чем 5% по сравнению с предыдущей децентрализованной инфраструктурой обслуживания данных VAST.
Одним из ключевых преимуществ этой новой архитектуры фабрики ИИ является способность обеспечивать беспрецедентное качество обслуживания. Каждый сервер GPU получает выделенный и параллельный контейнер хранения и базы данных, исключая конкуренцию за инфраструктуру обработки данных. Экстремальная параллельность архитектуры DASE компании VAST делает возможным для каждого процессора NVIDIA BlueField-3 читать и записывать в общие пространства имен Платформы данных VAST без синхронизации ввода-вывода между контейнерами. Это устраняет конфликты в инфраструктуре и является необходимым для обслуживающих многоквартирных провайдеров сервисов, стремящихся достичь целевых уровней обслуживания своих клиентов при оптимизации вычислительных ресурсов GPU.
В плане безопасности архитектура фабрики ИИ от VAST гарантирует защиту и изоляцию данных и управления данными от операционных систем хостов. За счет предоставления сетевых служб, объектных служб и служб баз данных от процессоров NVIDIA BlueField-3 посредством стандартных клиентских протоколов, таких как NFS, SMB, S3 и Apache Arrow, VAST устраняет множество векторов атак в многоквартирной среде.
Помимо этих улучшений, компания VAST Data теперь предоставляет службы блочного хранилища нативно для операционных систем хостов, дополняя тем самым уже обширный набор представлений данных, включающий файловые, объектные и базы данных службы. Это расширение стало возможным благодаря интеграции программной платформы NVIDIA DOCA, позволяющей быстро разрабатывать сервисы в контейнерах.
«Эта новая архитектура является идеальным примером для выражения параллелизма Платформы данных VAST. С помощью процессоров NVIDIA BlueField-3 мы теперь можем реализовать полный потенциал нашего видения дезагрегированных дата-центров, к которому мы стремились с момента основания компании», — сказал Джефф Денворт, один из соучредителей VAST Data.
Новая архитектура VAST, работающая на программах VAST на процессорах BlueField в серверах ИИ, в настоящее время проходит испытания и внедряется в CoreWeave, ведущего специализированного поставщика облачных услуг с использованием GPU. Сотрудничество призвано построить масштабируемую ИИ-технику и усилить возможности фабрик ИИ для престижных LLM строителей и крупных предприятий.
«Революционная архитектура от VAST является игровой перспективой для CoreWeave, позволяя нам полностью дезагрегировать наши центры обработки данных. Мы без проблем интегрируем современное программное обеспечение от VAST прямо в наши кластеры GPU», — сказал Питер Саланки, вице-президент по инженерии CoreWeave. «За счет прямого включения служб хранения и баз данных в BlueField мы не только оптимизируем нашу инфраструктуру, но также улучшаем пользовательский опыт для наших клиентов, устраняя узкие места в потоке обработки данных ИИ. CoreWeave не только идет в ногу с будущим управления облачными данными — мы его определяем.»
**Часто задаваемые вопросы**
1. Что представляет собой новая облачная архитектура ИИ, объявленная компанией VAST Data?
Новая облачная архитектура ИИ от VAST Data представляет собой совместное сотрудничество с NVIDIA, использующее процессоры NVIDIA BlueField DPU для повышения производительности, безопасности и эффективности фабрик ИИ.
2. Как архитектура упрощает и масштабирует услуги обработки данных в области ИИ?
Путем внедрения сервисов хранения и обработки баз данных непосредственно на серверах ИИ и использования специализированных процессоров NVIDIA BlueField DPU в каждом сервере GPU, архитектура VAST Data позволяет достичь истинных линейных служб обработки данных, способных масштабироваться до сотен тысяч GPU.
3. Каковы преимущества этой новой архитектуры?
Эта архитектура значительно снижает затраты, площадь и энергопотребление, связанные с обслуживанием данных в области ИИ. Она максимизирует эффективность дата-центра, обеспечивает беспрецедентное качество обслуживания, улучшает безопасность нулевого доверия и предоставляет службы блочного хранилища нативно для операционных систем хостов.
4. С какой компанией сотрудничает VAST Data для развертывания этой новой архитектуры?
VAST Data сотрудничает с CoreWeave, ведущим специализированным поставщиком облачных услуг с использованием GPU, для тестирования и внедрения новой архитектуры. Партнерство направлено на создание масштабируемой аппаратуры ИИ и укрепление возможностей фабрик ИИ для престижных строителей LLM и крупных предприятий.
5. Как влияет эта архитектура на управление облачными данными CoreWeave?
Путем полной дезагрегации центров обработки данных и интеграции современного программного обеспечения VAST прямо в кластеры GPU, CoreWeave оптимизирует свою инфраструктуру и устраняет узкие места в потоке обработки данных ИИ. Это улучшает пользовательский опыт для клиентов и позиционирует CoreWeave на передовых позициях в управлении облачными данными.
Для получения дополнительной информации о новой облачной архитектуре ИИ от VAST Data, посетите vastdata.com.
The source of the article is from the blog exofeed.nl