在数据和人工智能领域，Databricks与NVIDIA的合作将企业加速他们的AI开发和部署。该合作利用了NVIDIA的加速计算能力，Databricks可以为数据处理提供强大性能，从而为组织提供更大的价值。
这次合作的关键重点在生成式AI解决方案领域。Databricks的数据智能平台已被广泛采用，用于构建和定制基于自己数据和特定业务需求的生成式AI模型。通过Databricks Mosaic AI和NVIDIA的合作，两家公司共同努力推动在Databricks平台上构建和部署生成式AI模型的最新技术进展。
重要的是要注意，Databricks在生成式AI模型训练中利用了NVIDIA H100 Tensor Core GPU。这些GPU专门针对开发大型语言模型（LLMs）进行了优化。Databricks平台和NVIDIA的加速计算能力的结合为客户提供了一种有效可扩展的解决方案，用于定制LLMs。
在模型部署方面，Databricks在整个堆栈中利用NVIDIA加速计算和软件。Databricks的Mosaic AI Model Serving使用的一个关键软件组件是NVIDIA TensorRT-LLM软件。该软件确保解决方案的性能、成本效益、可扩展性和整体效率。
此外，Databricks计划将NVIDIA加速计算的本机支持整合到其下一代矢量化查询引擎Photon中。该整合旨在增强查询性能，使数据仓库和分析工作负载对客户更加顺畅高效。
Databricks还为机器学习（ML）和深度学习工作负载提供了重大支持。他们的平台包括带有NVIDIA GPU的预构建深度学习基础架构，以及供ML使用的预配置GPU支持的Databricks Runtime。这使用户可以快速开始使用NVIDIA基础架构，并在ML环境中保持一致性。Databricks在所有三个主要云提供商上支持NVIDIA Tensor Core GPU，实现了ML工作负载的高性能单节点和分布式训练。
未来，Databricks和NVIDIA旨在进一步赋能组织，使用数据智能平台，在质量、速度和敏捷性上创建他们下一代数据和AI应用。
常见问题解答（FAQ）
The source of the article is from the blog shakirabrasil.info