В смел ход тази година, Google отклони от своя обичаен подход със затворен код и представи редица отворени инструменти, насочени към подкрепа на генеративни AI проекти и инфраструктура. Този преход е значителна стъпка напред в усилията на компанията да насърчи добрата воля на разработчиците и да развие амбициите си за екосистемата.
Един от забележителните инструменти, представени от Google, е MaxСирене [превод MaxDiffusion], колекция от референтни изпълнения на различни модели за разпространение. Тези модели, като генератора на изображения Stable Сирене, са проектирани да работят на устройства XLA. XLA, или Ускорена Линейна Алгебра, се отнася до техника, която оптимизира и ускорява конкретните работни нагрузки на ИИ, включително финна настройка и обслужване. Както TPUs на Google, така и последните модели Nvidia GPU попадат в категорията на устройствата XLA.
Google представи също Jetstream, двигател, специално създаден за работа с генеративни ИИ модели, особено модели, генериращи текст. В момента ограничен в подкрепата на TPUs, с очаквана съвместимост с GPU в бъдеще, Jetstream предлага до 3 пъти по-висока производителност на долар за модели като Gemma 7B на Google и Llama 2 на Meta. Тази подобрена производителност е от съществено значение, тъй като клиентите търсят разходо-ефективни стекове за извод, които доставят висока производителност.
„Въпреки че Jetstream предлага значителни подобрения в производителността, конкретните детайли зад твърденото подобрение от 3 пъти остават неясни,“ заяви Марк Лохмайер, главен мениджър на групата на Google Cloud за изчисления и инфраструктура за машинно самообучение. Въпроси, свързани с генерацията на използвания TPU, сравнени базови линии и дефиницията на производителността, бяха повдигнати. Google е била контактувана за допълнително пояснение.
MaxТекст, друго допълнение към откритите приноси на Google, е колекция от модели за генериране на текстове, насочени към TPUs и Nvidia GPU. Gemma 7B, GPT-3 на OpenAI, Llama 2 и модели от Mistral са интегрирани в MaxТекст. Тези модели могат да бъдат персонализирани и фина настройка, за да отговарят на специфичните нужди на разработчиците. Google е оптимизирала тяхната производителност на TPUs и е сътрудничила с Nvidia за подобряване на изпълнението на големи кълстъри с GPU, което довежда до по-висока енергийна ефективност и оптимизация на разходите.
В сътрудничество с AI стартъп Hugging Face, Google създаде Оптимален TPU, за да улесни разпространението на определени работни нагрузки на ИИ на TPUs. Основната цел е да се намали бариерата за влизане в приемането на генеративни модели на TPUs, особено модели, генериращи текст. В момента, Оптимален TPU поддържа само Gemma 7B и обучението на генеративни модели на TPUs все още не се поддържа. Въпреки това, Google е уверена, че подобренията са на хоризонта.
Тези отворени инструменти от Google имат потенциал да революционизират областта на генеративната AI и да дадат възможност на разработчиците да търсят нови възможности. Чрез отварянето на достъп до мощни ИИ модели и инфраструктура, Google улеснява иновациите и колаборацията в общността на разработчиците. С обещани постоянни подобрения и напредъци, бъдещето изглежда обещаващо за развитието на генеративната AI.
ЧЗВ
Какво е MaxСирене?
MaxСирене е колекция от референтни изпълнения на модели за разпространение, проектирани да работят на устройства XLA. Тези модели оптимизират и ускоряват конкретни работни нагрузки на ИИ, включително финна настройка и обслужване.
Какво е Jetstream?
Jetstream е двигател, разработен от Google, за да работи с генеративни AI модели, особено модели, генериращи текст. Предлага по-висока производителност на долар и в момента поддържа само TPUs, с очаквана съвместимост с GPU в бъдеще.
Достъпен ли е Оптимален TPU за обучение на генеративни модели на TPUs?
В момента Оптимален TPU поддържа само работата с генеративни модели на TPUs. Обучението на генеративни модели на TPUs все още не се поддържа, но може да стане налично в бъдеще.
Източници:
– TechCrunch
Освен инструментите, споменати в статията, струва си да се проучи текущото състояние на генеративната индустрия на ИИ, прогнозите за пазара и някои от основните въпроси, свързани с това поле.
През последните години генеративната AI индустрия претърпява значителен растеж, подкрепен от напредъка в дълбокото самообучение и невронни мрежи. Генеративните модели имат възможността да генерират ново съдържание, като изображения, музика и текст, базирани на модели, научени от съществуващи данни. Тази технология има приложения в различни индустрии, включително изкуството, забавлението, модата и рекламата.
Според доклад на Allied Market Research, глобалният пазар на генеративната AI се очаква да достигне 11.17 милиарда долара до 2026 г., като расте със средно темпо на годишен растеж (CAGR) от 20.5% от 2019 г. до 2026 г. Увеличаването на приемането на генеративните модели в индустриите като здравеопазване, автомобилостроене и розницата подпомага този растеж. Освен това, напредъците в технологиите за хардуерно ускорение, като TPUs и GPUs, също налягат пазара напред.
Въпреки това бързото развитие на генеративно AI също поставя някои предизвикателства и етични въпроси. Една от проблемите е потенциалът за предразсъдъци в генерираното съдържание. Генеративните модели научават от съществуващи данни и ако тези данни са с предразсъдъци, те могат се отразят в генерираните резултати. Това може да има последици в области като разпознаване на изображения, превод на езици и препоръка на съдържание.
Друг предизвикателство е интерпретируемостта на генеративните модели. За разлика от традиционните модели на машинното самообучение, които могат да предоставят обяснения за своите решения, генеративните модели често липсват на прозрачност в своите процеси на вземане на решения. Разбирането и интерпретирането на вътрешните процеси на тези модели е тема на активно изследване в областта.
За да сте в течение на последните новини и развития в сферата на генеративната AI, можете да посетите уважаеми източници като TechCrunch или специализирани издания за AI като AI Trends. Тези източници покриват широк спектър от теми, свързани с ИИ, включително генеративни модели, пазарни тенденции и актуализации в индустрията.
Докато полето на генеративната AI продължава да се развива, ще бъде от съществено значение да се справим с тези предизвикателства, да подчертаем етичните въпроси и да насърчим колаборацията между участниците в индустрията. С представянето на отворените инструменти на Google, бариерата за достъп за разработчиците се намалява, което отваря пътя за допълнителни иновации и напредъци в генеративната AI.
The source of the article is from the blog motopaddock.nl