Az együttműködés, mely a Databricks és a NVIDIA között jött létre, lehetővé teszi az vállalatok számára, hogy felgyorsítsák AI fejlesztéseiket és telepítéseiket. A NVIDIA gyorsított számítási képességeinek felhasználásával a Databricks képes lendületet adni az adatfeldolgozásnak, ezáltal nagyobb értéket nyújtva a szervezeteknek.
A kapcsolat fókusza a generatív AI megoldások területén van. A Databricks Az adatbányászati platform (Data Intelligence Platform) már széles körben használatos a szervezetek által, hogy saját adataikra és specifikus üzleti igényeikre épített generatív AI modelleket építsenek és testreszabhassanak. A Databricks Mosaic AI és a NVIDIA együttműködésével mindkét cég azon dolgozik, hogy előrelépést érjenek el a generatív AI modellek építése és telepítése terén a Databricks platformon.
Fontos megjegyezni, hogy a Databricks a NVIDIA H100 Tensor Core GPU-jait használja a generatív AI modellek képzésére. Ezek a GPU-k kifejezetten optimalizálva vannak a nagy nyelvi modellek (LLM-ek) fejlesztésére. A Databricks platformjának és a NVIDIA gyorsított számítási képességeinek kombinációja hatékony és skálázható megoldást nyújt az LLM-ek testreszabásához.
A modell telepítéséről beszélve a Databricks teljes körűen használja a NVIDIA gyorsított számítást és szoftvert a rendszeren belül. Az általuk alkalmazott Databricks Mosaic AI Model Serving egyik lényeges szoftverkomponense a NVIDIA TensorRT-LLM szoftver. Ez a szoftver optimális teljesítményt, költséghatékonyságot, skálázhatóságot és átfogó hatékonyságot biztosít a megoldás számára.
Továbbá, a Databricks tervezi, hogy beépíti a natív támogatást a NVIDIA gyorsított számítása terén a következő generációs vektorizált lekérdezéskezelőjébe, a Photon-ba. Ez az integráció célja, hogy növelje a lekérdezési teljesítményt, így az adattárolás és analitikai terhelések hatékonyabbá válnak a vásárlók számára.
Databricks jelentős támogatást nyújt a gépi tanulás és a mély tanulás terén. A platformjuk tartalmaz előre elkészített mély tanulás infrastruktúrát NVIDIA GPU-kkal, és a Databricks Runtime for ML előre konfigurált GPU-támogatást kínál. Ez lehetővé teszi a felhasználók számára, hogy gyorsan elkezdjenek NVIDIA infrastruktúrával és konzisztenciát tartson fenn a ML környezetben. A Databricks támogatja a NVIDIA Tensor Core GPU-kat az összes három fő felhő szolgáltatón, lehetővé téve a magas teljesítményű egyszámú, illetve elosztott tanulást a ML terhelésekhez.
A jövőben a Databricks és a NVIDIA azt tervezik, hogy tovább erősítsék az szervezeteket abban, hogy minőségi, gyors és rugalmas módon hozzák létre a következő generációs adat és AI alkalmazásaikat az Adatbányászati Platform használatával.
**GYIK**
1. Mi az a Databricks?
Databricks egy vezető Data és AI cég, amely lehetővé teszi a vállalatok számára, hogy egységesítsék és demokratizálják az adataikat, analitikájukat és AI képességeiket.
2. Mi az a NVIDIA?
NVIDIA egy híres technológiai cég, amely a gyorsított számítással foglalkozik. GPU-kat és szoftveres megoldásokat biztosít, melyek jelentősen növelik az AI és egyéb adat-intenzív terhelések teljesítményét.
Források:
– Databricks Weboldal: https://databricks.com
– NVIDIA Weboldal: https://www.nvidia.com
The source of the article is from the blog publicsectortravel.org.uk