Databricks, compania de top în domeniul datelor și AI, a anunțat recent o colaborare extinsă și un angajament mai profund în ceea ce privește integrările tehnice cu NVIDIA în cadrul conferinței de vârf GTC 2024 a companiei. Împreună, Databricks și NVIDIA își propun să optimizeze sarcinile de date și AI pe platforma de inteligență a datelor a Databricks.
Această colaborare se bazează pe implicarea NVIDIA în runda de finanțare Series I a Databricks, demonstrând viziunea lor comună de a avansa sarcinile de lucru ale Databricks cu ajutorul calculului accelerat NVIDIA și a software-ului. Scopul este de a oferi mai multă valoare clienților și de a le oferi informații și rezultate îmbunătățite, cu o eficiență sporită.
Colaborarea dintre Databricks și NVIDIA va permite întreprinderilor să-și accelereze dezvoltarea și implementarea de AI. Prin valorificarea capacităților de calcul accelerate ale NVIDIA, Databricks poate îmbunătăți prelucrarea datelor, oferind în cele din urmă o valoare mai mare organizațiilor.
Principala preocupare a acestei colaborări se află în domeniul soluțiilor de AI generativă. Platforma de inteligență a datelor a Databricks a fost deja adoptată pe scară largă de organizații pentru a construi și personaliza modele de AI generative pe baza propriilor date și nevoi specifice de afaceri. Prin colaborarea dintre Databricks Mosaic AI și NVIDIA, ambele companii lucrează împreună pentru a avansa starea artei în construirea și implementarea modelelor de AI generative pe platforma Databricks.
Este important de menționat faptul că Databricks utilizează GPU-urile NVIDIA H100 Tensor Core pentru antrenarea modelelor de AI generative. Aceste GPU-uri sunt optimizate special pentru dezvoltarea de Modele de Limbaj Mari (LLM). Această combinație între platforma Databricks și capacitățile de calcul accelerate ale NVIDIA oferă clienților o soluție eficientă și scalabilă pentru personalizarea LLM-urilor.
În ceea ce privește implementarea modelelor, Databricks utilizează calculul accelerat și software-ul NVIDIA pe întregul stack. Un component software esențial folosit de Modelul de Servire a AI al Mosaic AI al Databricks este software-ul NVIDIA TensorRT-LLM. Acest software asigură performanță optimă, rentabilitate, scalabilitate și eficiență generală a soluției.
În plus, Databricks intenționează să integreze suport nativ pentru calculul accelerat NVIDIA în motorul său de interogare vectorial de nouă generație numit Photon. Această integrare își propune să îmbunătățească performanța interogării, făcând sarcinile de stocare a datelor și analitice mai streamline și eficiente pentru clienți.
Databricks oferă, de asemenea, un suport semnificativ pentru sarcinile de învățare automată (ML) și de învățare profundă. Platforma lor include infrastructura preconstruită de învățare profundă cu GPU-uri NVIDIA, iar Databricks Runtime pentru ML oferă suport preconfigurat pentru GPU-uri. Acest lucru le permite utilizatorilor să înceapă rapid cu infrastructura NVIDIA și să mențină consistența în mediul ML. Databricks suportă GPU-urile NVIDIA Tensor Core pe toți cei trei mari furnizori de cloud, permițând antrenarea single-node și distribuită de înaltă performanță pentru sarcinile ML.
În viitor, Databricks și NVIDIA își propun să împuternicească organizațiile să-și creeze următoarea generație de aplicații de date și AI cu calitate, viteză și agilitate folosind Platforma de Inteligență a Datelor.
Întrebări frecvente (FAQ)
The source of the article is from the blog zaman.co.at