Într-o mișcare îndrăzneață în acest an, Google a deviat de la abordarea sa obișnuită de sursă închisă și a introdus o gamă de instrumente open-source menite să sprijine proiectele și infrastructura generative AI. Această schimbare marchează un pas semnificativ în angajamentul companiei de a promova bunăvoința dezvoltatorilor și de a-și avansa ambițiile de ecosistem.
Unul dintre instrumentele remarcabile lansate de Google este MaxDiffusion, o colecție de implementări de referință ale diferitelor modele de difuzie. Aceste modele, cum ar fi generatorul de imagini Stable Diffusion, sunt proiectate să ruleze pe dispozitive XLA. XLA, sau Accelerated Linear Algebra, se referă la o tehnică care optimizează și accelerează sarcinile specifice de AI, inclusiv optimizarea fină și servirea. Atât unitățile de procesare a tensorilor (TPU) Google, cât și GPU-urile recente Nvidia se încadrează în categoria dispozitivelor XLA.
Google a introdus, de asemenea, Jetstream, o platformă proiectată special pentru a rula modele generative AI, în special modele care generează text. În prezent, limitat la suportarea TPUs cu compatibilitate GPU așteptată în viitor, Jetstream oferă până la 3x performanță mai mare pe dolar pentru modele precum Gemma 7B de la Google și Llama 2 de la Meta. Această performanță îmbunătățită este crucială pe măsură ce clienții caută stack-uri de inferență eficiente din punct de vedere al costurilor care oferă performanțe ridicate.
„În timp ce Jetstream oferă îmbunătățiri semnificative de performanță, detaliile din spatele îmbunătățirii revendicate de 3x rămân neclare,” a declarat Mark Lohmeyer, GM-ul Google Cloud pentru calcul și infrastructura de învățare automată. Au fost ridicate întrebări legate de generarea TPU utilizată, bazele comparative și definiția performanței. Google a fost contactat pentru o clarificare suplimentară.
MaxText, o altă adăugare la contribuțiile open-source ale Google, este o colecție de modele AI de generare a textului destinate TPUs și Nvidia GPUs. Gemma 7B, GPT-3 de la OpenAI, Llama 2 și modele de la Mistral au fost integrate în MaxText. Aceste modele pot fi personalizate și optimizate pentru a satisface nevoile specifice ale dezvoltatorilor. Google a optimizat performanța acestora pe TPUs și a colaborat cu Nvidia pentru a îmbunătăți performanța pe cluster-e mari de GPU-uri, rezultând o eficiență energetică mai mare și o optimizare a costurilor.
În colaborare cu startupul de AI Hugging Face, Google a creat Optimum TPU pentru a facilita implementarea anumitor sarcini de lucru de AI pe TPUs. Scopul principal este de a reduce barierele de intrare pentru adoptarea modelelor AI generative, în special modelele generatoare de text, pe hardware-ul TPU. În prezent, Optimum TPU suportă doar Gemma 7B, iar antrenarea modelelor generative pe TPUs nu este încă susținută. Cu toate acestea, Google a asigurat că îmbunătățirile sunt pe drum.
Aceste instrumente open-source de la Google au potențialul de a revoluționa domeniul generative AI și de a oferi dezvoltatorilor posibilitatea de a explora noi perspective. Prin deschiderea accesului la modele AI puternice și la infrastructură, Google înlesnește inovația și colaborarea în cadrul comunității de dezvoltatori. Cu îmbunătățiri și avansări continue promise, viitorul pare promițător pentru dezvoltarea generative AI.
Întrebări frecvente
Ce este MaxDiffusion?
MaxDiffusion este o colecție de implementări de referință ale modelelor de difuzie, proiectate să ruleze pe dispozitive XLA. Aceste modele optimizează și accelerează sarcini specifice de AI, inclusiv optimizarea fină și servirea.
Ce este Jetstream?
Jetstream este o platforma dezvoltată de Google pentru a rula modele generative AI, în special modele care generează text. Oferă o performanță superioară per dolar și este în prezent limitată la a susține TPUs, cu compatibilitate GPU așteptată în viitor.
Este Optimum TPU disponibil pentru antrenarea modelelor generative pe TPUs?
În prezent, Optimum TPU suportă doar rularea modelelor generative pe TPUs. Antrenarea modelelor generative pe TPUs nu este încă susținută, dar ar putea fi disponibilă în viitor.
Surse:
HTML: TechCrunch
În plus față de instrumentele menționate în articol, merită să explorăm starea actuală a industriei generative AI, prognozele de pe piață și unele dintre problemele cheie legate de acest domeniu.
Industria generative AI a înregistrat o creștere semnificativă în ultimii ani, alimentată de progresele în învățarea profundă și rețelele neurale. Modelele generative au capacitatea de a genera conținut nou, cum ar fi imagini, muzică și text, bazat pe modelele învățate din datele existente. Această tehnologie are aplicații în diferite industrii, inclusiv arta, divertismentul, moda și publicitatea.
Potrivit unui raport realizat de Allied Market Research, se preconizează că piața globală generative AI va ajunge la 11,17 miliarde de dolari până în 2026, cu o rată de creștere anuală compusă (CAGR) de 20,5% între 2019 și 2026. Adoptarea tot mai mare a modelelor generative în industrii precum sănătatea, automotive și retail este un factor care impulsionează această creștere. În plus, progresele în tehnologiile de accelerare a hardware-ului, precum TPUs și GPU-uri, împing de asemenea piața înainte.
Cu toate acestea, dezvoltarea rapidă a generative AI ridică și unele provocări și considerații etice. Una dintre probleme este potențialul de bias în conținutul generat. Modelele generative învață din datele existente, iar dacă aceste date prezintă bias, acesta poate fi reflectat în rezultatele generate. Acest lucru poate avea consecințe în domenii precum recunoașterea imaginilor, traducerea limbajului și recomandările de conținut.
O altă provocare este interpretarea modelelor generative. Spre deosebire de modelele tradiționale de învățare automată, care pot oferi explicații pentru deciziile lor, modelele generative adesea lipsesc transparența în procesul lor de luare a deciziilor. Înțelegerea și interpretarea funcționării interioare a acestor modele este un subiect de cercetare activ în domeniu.
Pentru a fi mereu la curent cu cele mai recente știri și evoluții din industria generative AI, puteți vizita surse de încredere precum TechCrunch sau publicații specializate în AI cum ar fi AI Trends. Aceste surse acoperă o gamă largă de subiecte legate de AI, inclusiv modele generative, trenduri de pe piață și actualizări din industrie.
Pe măsură ce domeniul generative AI continuă să evolueze, va fi crucial să abordăm aceste provocări, să subliniem considerațiile etice și să promovăm colaborarea între actorii din industrie. Cu introducerea instrumentelor open-source de la Google, barierele de intrare pentru dezvoltatori sunt reduse, deschizând calea către o mai mare inovație și avans în generative AI.
The source of the article is from the blog elektrischnederland.nl