Nvidia se je združil z Microsoftom, da bi sprostili moč aplikacij, ki jih poganja umetna inteligenca, neposredno na grafičnih karticah Nvidia RTX. Na dogodku Computex 2024 sta podjetji razkrili svoje sodelovanje pri vmesniku za programiranje aplikacij (API), ki bo razvijalcem omogočil izkoriščati različne majhne jezikovne modele (SLM), temeljne za Copilot+ delovanje, na uporabniških GPU-jih namesto le na nevrodružinski enoti (NPU).
SLM-ji, uporabljeni kot osnova za funkcije, kot so Spomin in Žive podnapise, lahko zdaj izkoristijo višje splošne AI sposobnosti GPU-jev. Ta razvoj prekine izključnost AI aplikacij, ki so vezane na okolje Copilot+, in razširja dosežek na računalnike, ki nimajo zahtevane NPU enote.
Osebni računalniki Copilot+ so prejšnjič zahtevali NPU, ki je bil sposoben izvajati vsaj 40 bilijonov operacij na sekundo (TOPS). Do sedaj je le čipovje Snapdragon X Elite lahko zadovoljilo te zahteve. Vendar pa GPU-ji presegajo te sposobnosti, saj tudi nižje zmogljivi modeli dosežejo do 100 TOPS, medtem ko visoko končni modeli to daleč presegajo.
Novi API prinaša zmožnosti Izpopolnjene Generacije Iskanja (ERG) v Copilot delovanje, ki omogoča AI modelom dostop do specifičnih lokaliziranih informacij, zagotavlja bolj relevantne rešitve, kot je bilo prikazano prej v Nvidia-jevem Klepetu s RTX.
Poleg API-ja je Nvidia najavila RTX orodje za umetno inteligenco na dogodku Computex. Z izdajo v juniju, to orodje združuje različna orodja razvijalcev in razvojna kompleta programske opreme (SDKji), omogoča fino nastavljene AI modele za specifične aplikacije. Po besedah Nvidia-jevih, RTX orodje za umetno inteligenco omogoča ustvarjanje modelov do štirikrat hitreje in trikrat manjše v primerjavi z odprtokodnimi alternativami.
Povečanje razvijalskih orodij spodbuja ustvarjanje uporabniško specifičnih AI aplikacij. Čeprav so nekatere funkcije bile videnje v Copilot+ računalnikih, se pričakujejo bolj sofisticirane AI aplikacije v prihajajočem letu. S pravo strojno opremo sedaj na mestu, razvijalci potrebujejo le programiranje, da bi izkoristili polni potencial teh aplikacij.
Pomembna vprašanja in odgovori:
1. Kaj želi doseči partnerstvo med Nvidia in Microsoftom s novo napovedanim API-jem?
Partnerstvo si prizadeva omogočiti razvijalcem, da poganjajo majhne jezikovne modele (SLM) na Nvidia RTX GPU-jih namesto da bi jih omejevali na Nevrodružinske enote (NPU), kar širi možnosti za funkcije, ki jih poganja AI, kot so Spomin in Živi podnapisi, na naprave brez NPU zmogljivosti.
2. Kako koristi to sodelovanje računalnikom brez NPU-jev?
To sodelovanje omogoča računalnikom brez namenske strojne opreme NPU, posebej zasnovane za AI naloge, uporabo obstoječih Nvidia RTX GPU-jev za poganjanje SLM-jev za AI aplikacije, kar tehnologijo naredi bolj dostopno.
3. Kakšne so potencialne posledice za razvoj AI aplikacij?
Z Nvidia-jevim novim RTX orodjem za umetno inteligenco bodo imeli razvijalci dostop do naprednih orodij in SDK-jev, kar bo znatno izboljšalo njihovo sposobnost ustvarjanja učinkovitih in zmogljivih AI modelov. S hitrejšim postopkom ustvarjanja in zmanjšanjem velikosti modela se pričakuje, da bo spodbudilo širši nabor inovativnih in visoko prilagojenih AI aplikacij.
Ključne izzive in kontroverze:
Zasebnost podatkov in varnost: Z AI, ki se vse bolj integrira v več naprav in aplikacij, obstaja zaskrbljenost, kako se podatki uporabljajo in varujejo. Uporaba SLM-jev v lokalnih GPU-jih bi lahko potencialno pripeljala do varnostnih ranljivosti, če niso sprejeti ustrezni ukrepi za zavarovanje podatkov.
Dostopnost in enakost: Napredki na področju AI naj ne bi bili namenjeni samo tistim z visoko zmogljivo strojno opremo. Potrebno je narediti prizadevanja, da zagotovimo, da bo širša publika lahko imela koristi od teh razvojev, sicer je nevarnost širjenja vrzeli pri dostopu do tehnologije.
Prednosti:
– Širši Dostop: Razvijalci lahko izkoristijo računske zmogljivosti široko dostopnih RTX GPU-jev za ustvarjanje AI aplikacij.
– Zmogljivost: Nvidia RTX GPU-ji ponujajo visoke zmogljivosti TOPS, kar omogoča bolj robustne AI aplikacije.
– Hitrost Razvoja: RTX orodje za umetno inteligenco obljublja hitrejše in učinkovitejše ustvarjanje AI modelov.
Slabosti:
– Odvisnost strojne opreme: Čeprav to partnerstvo razširja dostop, je še vedno odvisno od imeti Nvidia RTX GPU, kar bi lahko bilo ovira za nekatere uporabnike.
– Kompleksnost: Razvoj naprednih AI aplikacij zahteva pomembno tehnično strokovnost, kar lahko omeji, kdo lahko uporabi ta nova orodja.
Za dodatne podrobnosti o domenah Nvidia in Microsoft lahko obiščete:
– Nvidia
– Microsoft
[Vstavi]https://www.youtube.com/embed/7GEL7T9UOlY[/vstavi]
The source of the article is from the blog elektrischnederland.nl