Nvidia se je združil s Microsoftom, da bi sprostil moč aplikacij, poganjanih z umetno inteligenco, neposredno na grafičnih karticah Nvidia RTX. Na letošnjem sejmu Computex 2024 sta podjetji razkrili svoje sodelovanje pri programskem vmesniku za aplikacije (API), ki bo omogočal razvijalcem uporabo različnih majhnih jezikovnih modelov (SLM), ki so nujni za delovanje Copilot+ programskega okolja, na uporabnikovih grafičnih karticah namesto izključno na nevronski procesni enoti (NPU).
SLM, uporabljeni kot osnova za funkcije kot sta Spominjanje in Živa zapisa, lahko zdaj izkoristijo višje splošne zmogljivosti umetne inteligence grafičnih kartic. Ta razvoj prekine izključnost aplikacij z umetno inteligenco, omejenih na okolje Copilot+, in razširi njihov doseg na osebne računalnike, ki nimajo potrebne NPU.
Pred tem so osebni računalniki Copilot+ za delovanje zahtevali NPU, ki je bil sposoben izvesti vsaj 40 trilijonov operacij na sekundo (TOPS). Do sedaj je te zahteve izpolnjeval le čipset Snapdragon X Elite. Ampak grafične kartice presegajo te zmožnosti, saj tudi manj zmogljivi modeli dosežejo do 100 TOPS, visoko zmogljivi modeli pa te številke presegajo.
Novi API prinaša zmožnosti povečane pridobitve generacije (ERG) v Copilot programsko okolje, kar omogoča umetnim inteligenčnim modelom dostop do posebnih lokaliziranih informacij in zagotavlja bolj relevantne rešitve, predstavljene že v Nvidijinem klepetu z RTX.
Poleg API je Nvidia na sejmu Computex napovedala orodje RTX AI Toolkit. Orodje naj bi bilo izdano junija in združuje različna orodja za razvijalce in komplete razvojnih programov (SDK), ki omogočajo fino nastavljene modele umetne inteligence za posebne aplikacije. Po navedbah Nvidie orodje RTX AI Toolkit omogoča ustvarjanje modelov do štirikrat hitreje in trikrat manjše v primerjavi s alternativami z odprto kodo.
Naraščaj orodij za razvijalce spodbuja ustvarjanje aplikacij z umetno inteligenco, prilagojenih posameznim uporabnikom. Čeprav so nekatere funkcije že bile prisotne v osebnih računalnikih Copilot+, se prihodnje leto pričakujejo bolj izpopolnjene aplikacije z umetno inteligenco. Z ustrezno strojno opremo na mestu bodo razvijalci potrebovali le programiranje, da lahko izkoristijo polni potencial teh aplikacij.
Pomembna vprašanja in odgovori:
1. Kaj si prizadeva doseči partnerstvo med Nvidio in Microsoftom s sveže napovedanim APIjem?
Partnerstvo si prizadeva omogočiti razvijalcem delovanje majhnih jezikovnih modelov (SLM) na grafičnih karticah Nvidia RTX namesto, da bi jih omejevali na nevronske procesne enote (NPU), kar odpira možnosti za funkcije z umetno inteligenco, kot sta Spominjanje in Živi podnapisi na napravah brez NPU.
2. Kako koristi to sodelovanje osebnim računalnikom, ki nimajo NPUjev?
To sodelovanje omogoča osebnim računalnikom brez namenske strojne opreme NPU, ki je zasnovana posebej za naloge z umetno inteligenco, uporabo njihovih obstoječih grafičnih kartic Nvidia RTX za izvajanje SLM za aplikacije z umetno inteligenco, kar tehnologijo naredi bolj dostopno.
3. Kakšne so potencialne posledice za razvoj aplikacij z umetno inteligenco?
Z novim RTX AI Toolkitom nudi Nvidia razvijalcem napredna orodja in SDK, ki bodo znatno povečala njihovo sposobnost ustvarjanja učinkovitih in močnih modelov umetne inteligence. S hitrejšim postopkom izdelave in manjšo velikostjo modela naj bi spodbudilo širši nabor inovativnih in visoko prilagojenih aplikacij z umetno inteligenco.
Ključni izzivi in kontroverze:
Zasebnost in varnost podatkov: Z umetno inteligenco, ki se vedno bolj vnaša v več naprav in aplikacij, obstaja zaskrbljenost glede tega, kako se podatki uporabljajo in varujejo. Uporaba SLM na lokalnih grafičnih karticah bi lahko privedlo do ranljivosti, če ustrezni ukrepi niso vključeni za varovanje podatkov.
Dostopnost in pravičnost: Napredki v umetni inteligenci ne smejo biti namenjeni le tistim z visoko zmogljivo strojno opremo. Potrebno je narediti napore, da se zagotovi, da lahko širši krog ljudi koristi od teh napredkov, sicer obstaja nevarnost, da se razkorak v dostopu do tehnologije poveča.
Prednosti:
– Širši dostop: Razvijalci lahko izkoristijo računske zmogljivosti široko dostopnih grafičnih kartic RTX Nvidie za ustvarjanje aplikacij z umetno inteligenco.
– Zmogljivost: Grafične kartice Nvidia RTX ponujajo visoke zmogljivosti TOPS, kar omogoča bolj robustne aplikacije z umetno inteligenco.
– Hitrost razvoja: RTX AI Toolkit obljublja hitrejše in učinkovitejše ustvarjanje modelov z umetno inteligenco.
Slabosti:
– Odvisnost od strojne opreme: Čeprav to partnerstvo širi dostop, je še vedno odvisno od imetja grafične kartice Nvidia RTX, kar bi lahko bil ovira za nekatere uporabnike.
– Kompleksnost: Razvoj naprednih aplikacij z umetno inteligenco zahteva pomembno tehnično ekspertizo, kar potencialno omejuje, kdo lahko izkoristi ta nova orodja.
Za dodatne podrobnosti o domenah Nvidie in Microsofta lahko obiščete:
– Nvidia
– Microsoft
[vključi]https://www.youtube.com/embed/7GEL7T9UOlY[/vključi]