I en radikal beslutning dette år afveg Google fra sin sædvanlige praksis med lukket kildekode og introducerede en række open-source-værktøjer med det formål at understøtte generative AI-projekter og infrastruktur. Denne ændring markerer et betydeligt skridt fremad i virksomhedens forpligtelse til at fremme udvikleres gode vilje og fremme dets økosystemambitioner.
Et af de bemærkelsesværdige værktøjer, som Google afslørede, er MaxVandring, en samling af referenceimplementeringer af forskellige vandringsmodeller. Disse modeller, såsom billedgeneratoren Stabil Vandring, er designet til at køre på XLA-enheder. XLA, eller Accelerated Linear Algebra, refererer til en teknik, der optimerer og accelererer specifikke AI-arbejdsbelastninger, herunder finjustering og servering. Både Googles tensorprocessorenheder (TPU’er) og de seneste Nvidia GPU’er falder ind under kategorien af XLA-enheder.
Google introducerede også Jetstrøm, en motor specielt designet til at køre generative AI-modeller, især tekstgenererende modeller. Jetstrøm er i øjeblikket begrænset til at understøtte TPU’er, men GPU-kompatibilitet forventes i fremtiden. Jetstream tilbyder op til 3x højere ydeevne pr. dollar for modeller som f.eks. Google’s Gemma 7B og Metas Llama 2. Denne forbedrede ydeevne er afgørende, da kunder leder efter omkostningseffektive inferensstakke, der leverer høj ydeevne.
“Mens Jetstream tilbyder betydelige ydelsesforbedringer, er detaljerne bag den påståede 3x forbedring uklare,” sagde Mark Lohmeyer, Google Clouds direktør for beregning og maskinlæringsinfrastruktur. Spørgsmål vedrørende genereringen af TPU-brugt, sammenlignede baselines og definitionen af ydeevne er blevet rejst. Google er blevet kontaktet for yderligere afklaring.
MaxTekst, et andet tilføjelse til Googles open-source-bidrag, er en samling tekstgenererende AI-modeller, der sigter mod TPU’er og Nvidia GPU’er. Gemma 7B, OpenAIs GPT-3, Llama 2 og modeller fra Mistral er blevet integreret i MaxTekst. Disse modeller kan tilpasses og finjusteres for at imødekomme udviklernes specifikke behov. Google har optimeret deres ydeevne på TPU’er og samarbejdet med Nvidia om at forbedre ydeevnen på store GPU-klynger, hvilket resulterer i højere energieffektivitet og omkostningsoptimering.
I samarbejde med AI-startup Hugging Face har Google skabt Optimal TPU for at lette implementeringen af visse AI-arbejdsbelastninger på TPU’er. Det primære mål er at sænke barriæren for at adoptere generative AI-modeller, især tekstgenererende modeller, på TPU-hardware. I øjeblikket understøtter Optimum TPU kun Gemma 7B, og træning af generative modeller på TPU’er understøttes endnu ikke. Google har dog forsikret, at forbedringer er på vej.
Disse open-source-værktøjer fra Google har potentiale til at revolutionere feltet inden for generative AI og give udviklere mulighed for at udforske nye muligheder. Ved at åbne adgangen til kraftfulde AI-modeller og infrastruktur muliggør Google innovation og samarbejde inden for udviklerfællesskabet. Med løbende forbedringer og fremskridt i sigte ser fremtiden lovende ud for udvikling af generative AI.
## FAQ
#### Hvad er MaxVandring?
MaxVandring er en samling af referenceimplementeringer af vandringsmodeller, designet til at køre på XLA-enheder. Disse modeller optimere og accelerere specifikke AI-arbejdsbelastninger, herunder finjustering og servering.
#### Hvad er Jetstrøm?
Jetstrøm er en motor udviklet af Google til at køre generative AI-modeller, især tekstgenererende modeller. Den tilbyder højere ydelse pr. dollar og er i øjeblikket begrænset til at understøtte TPU’er, med GPU-kompatibilitet forventes i fremtiden.
#### Er Optimal TPU tilgængelig til træning af generative modeller på TPU’er?
I øjeblikket understøtter Optimal TPU kun kørsel af generative modeller på TPU’er. Træning af generative modeller på TPU’er understøttes endnu ikke, men kan være tilgængeligt i fremtiden.
Kilder:
– TechCrunch
Udover de nævnte værktøjer i artiklen er det værd at udforske den nuværende tilstand af generative AI-branchen, markedsprognoser og nogle af de vigtige problemer relateret til dette felt.
Generative AI-branchen har set betydelig vækst i de senere år, drevet af fremskridt inden for dyb læring og neurale netværk. Generative modeller har evnen til at generere nyt indhold, såsom billeder, musik og tekst, baseret på mønstre, de har lært fra eksisterende data. Denne teknologi har applikationer inden for forskellige brancher, herunder kunst, underholdning, mode og reklame.
Ifølge en rapport fra Allied Market Research forventes det globale generative AI-marked at nå 11,17 milliarder dollars inden 2026, med en årlig vækstrate (CAGR) på 20,5% fra 2019 til 2026. Den stigende vedtagelse af generative modeller i brancher som sundhedsvæsen, bilindustri og detailhandel driver denne vækst. Desuden er fremskridt inden for hardwareaccelerationsteknologier som TPU’er og GPU’er også med til at drive markedet fremad.
Dog præsenterer den hurtige udvikling af generative AI også nogle udfordringer og etiske overvejelser. Et problem er potentialet for bias i genereret indhold. Generative modeller lærer fra eksisterende data, og hvis disse data er biased, kan det afspejles i de genererede outputs. Dette kan have konsekvenser inden for områder som billedgenkendelse, sprogoversættelse og indholdsanbefalinger.
En anden udfordring er interpreterbarheden af generative modeller. I modsætning til traditionelle maskinlæringsmodeller, som kan give forklaringer på deres beslutninger, mangler generative modeller ofte gennemsigtighed i deres beslutningsproces. At forstå og tolke disse modellers indre arbejde er et aktivt forskningsemne inden for feltet.
For at holde sig opdateret om de seneste nyheder og udviklinger i generative AI-branchen kan du besøge anerkendte kilder som TechCrunch (link) eller specialiserede AI-publikationer som AI Trends (link). Disse kilder dækker et bredt spektrum af emner relateret til AI, herunder generative modeller, markedsudviklinger og brancheopdateringer.
Som generative AI-feltet fortsætter med at udvikle sig, er det afgørende at tackle disse udfordringer, understrege etiske overvejelser og fremme samarbejde mellem branchens aktører. Med introduktionen af Googles open-source-værktøjer sænkes barrieren for udviklere, hvilket baner vejen for yderligere innovation og fremskridt inden for generative AI.
The source of the article is from the blog rugbynews.at