Nvidia on liittoutunut Microsoftin kanssa saattaakseen tekoälypohjaisten sovellusten voiman suoraan Nvidia RTX -grafiikkakorteille. Computex 2024 -tapahtumassa yritykset paljastivat yhteistyönsä sovellusohjelmointirajapinnan (API) kehittämisessä, joka mahdollistaa kehittäjille hyödyntää erilaisia pieniä kielimalleja (SLM) – jotka ovat olennainen osa Copilot+ -ajonaikaista ympäristöä – käyttäjien GPU:illa sen sijaan, että ne olisivat rajoitettuja pelkästään Neuroverkkoyksikköön (NPU).
SLM:iä, joita käytetään ominaisuuksissa kuten Recall ja Live Captions, voidaan nyt hyödyntää GPU:ien korkeampien yleisten tekoäly-ominaisuuksien avulla. Tämä kehitys rikkoo AI-sovellusten eksklusiivisuutta Copilot+-ympäristöön ja laajentaa niiden ulottuvuutta tietokoneisiin, joissa ei ole tarvittavaa NPU:ta.
Copilot+ -tietokoneissa tarvittiin aiemmin NPU, joka pystyi suorittamaan vähintään 40 triljoonaa operaatiota sekunnissa (TOPS). Tällä hetkellä vain Snapdragon X Elite -piirisarja voisi täyttää nämä vaatimukset. GPU:it ylittävät kuitenkin nämä suorituskyvyt, sillä jopa edullisimmat mallit yltävät jopa 100 TOPS:iin ja huippumallit ylittävät tämän reippaasti.
Uusi API tuo Tehostetun Noutosukupolven (ERG) ominaisuudet Copilot-ajonaikaan, mikä mahdollistaa tekoälymallien käyttää tiettyjä paikallisia tietoja tarjoten näin relevanteimpia ratkaisuja, kuten on aiemmin nähty Nvidian Chat with RTX:ssä.
API:n lisäksi Nvidia ilmoitti RTX AI -työkalupakista Computexissa. Kesäkuussa julkaistava tämä työkalupakki yhdistää erilaisia kehittäjätyökaluja ja ohjelmistokehityspaketteja (SDK), mahdollistaen hienosäädettyjen tekoälymallien luomisen tiettyjä sovelluksia varten. Nvidian mukaan RTX AI -työkalupakki mahdollistaa mallien luomisen jopa neljä kertaa nopeammin ja kolme kertaa pienempään kokoiseen verrattuna avoimen lähdekoodin vaihtoehtoihin.
Kehittäjätyökalujen nousu ruokkii käyttäjäkohtaisien tekoälysovellusten luomista. Vaikka joitain ominaisuuksia on nähty Copilot+-tietokoneissa, odotetaan yhä edistyksellisempiä tekoälysovelluksia tulevalle vuodelle. Oikeilla laitteistoilla paikoillaan kehittäjien tarvitsee enää ohjelmointitaitoja hyödyntääkseen näiden sovellusten täyttä potentiaalia.
Tärkeitä Kysymyksiä ja Vastauksia:
1. Mihin Nvidia ja Microsoftin kumppanuus pyrkii saavuttamaan uuden API:n avulla?
Kumppanuuden tavoitteena on mahdollistaa kehittäjille pienten kielimallien (SLM) suoritus Nvidia RTX GPU:illa sen sijaan, että ne rajoitettaisiin Neuroverkkoyksiköihin (NPU), joka laajentaa mahdollisuuksia tekoälypohjaisten ominaisuuksien kuten Recall ja Live Captions käyttöön laitteissa, joissa ei ole NPU:n ominaisuuksia.
2. Miten tämä yhteistyö hyödyttää PC:tä, joissa ei ole NPU:tä?
Tämä yhteistyö mahdollistaa PC:ille, joilla ei ole omistautunutta NPU-laitteistoa tekoälytehtäviä varten, käyttää olemassa olevia Nvidia RTX GPU:ita ajamaan SLM:iä tekoälysovelluksille, mikä tekee teknologian helpommin saavutettavaksi.
3. Mitä odotettavissa on tekoälysovellusten kehityksessä?
Nvidian uuden RTX AI -työkalupakin avulla kehittäjät saavat käyttöönsä edistyneitä työkaluja ja SDK:ja, jotka parantavat huomattavasti heidän kykyään luoda tehokkaita ja vahvoja tekoälymalleja. Nopeuttaen luontiprosessia ja pienentäen mallikokoa, odotetaan sen kannustavan laaja-alaisempaan sarjaan innovatiivisia ja erittäin räätälöityjä tekoälysovelluksia.
Keskeiset Haasteet ja Kontroverssit:
Tietosuoja ja Turvallisuus: Tekoälyn integroituminen entistä useampiin laitteisiin ja sovelluksiin herättää huolen siitä, miten dataa käytetään ja suojataan. SLM:ien käyttö paikallisissa GPU:issa voisi potentiaalisesti altistaa haavoittuvuuksille, jos asianmukaisia toimenpiteitä ei ole käytössä datan suojaamiseksi.
Saavutettavuus ja Oikeudenmukaisuus: Tekoälyn edistykset eivät saisi keskittyä pelkästään korkean tason laitteille. Toimenpiteitä on tehtävä varmistaakseen, että laajempi yleisö hyötyy näistä kehityksistä, muuten on riski siitä, että teknologiaan pääsyä humautetaan.
Edut:
– Laajempi Saatavuus: Kehittäjät voivat hyödyntää laajasti saatavilla olevien RTX GPU:iden laskentatehoa tekoälypohjaisten sovellusten luomiseen.
– Suorituskyky: Nvidia RTX GPU:it tarjoavat korkeita TOPS-ominaisuuksia, mahdollistaen vahvempia tekoälysovelluksia.
– Kehitysnopeus: RTX AI -työkalupaketti lupaa nopeampaa ja tehokkaampaa tekoälymallien luomista.
Haitat:
– Laiteriippuvuus: Vaikka tämä kumppanuus laajentaa saatavuutta, se on edelleen riippuvainen siitä, että Nvidia RTX GPU on olemassa, mikä voisi olla este joillekin käyttäjille.
– Monimutkaisuus: Edistyneiden tekoälysovellusten kehitys vaatii merkittävää teknistä asiantuntemusta, mikä saattaisi rajoittaa sitä, kuka voi hyödyntää näitä uusia työkaluja.
Jos haluat tutkia lisää yksityiskohtia Nvidia ja Microsoftin aloista, voit vierailla:
– Nvidia
– Microsoft