Nvidia heeft zich verenigd met Microsoft om de kracht van op AI gebaseerde toepassingen rechtstreeks op Nvidia’s RTX grafische kaarten te benutten. Op Computex 2024 onthulden de bedrijven hun samenwerking aan een Application Programming Interface (API) die ontwikkelaars in staat zal stellen om diverse Small Language Models (SLM’s) te benutten—essentieel voor de Copilot+ runtime—op de GPU’s van gebruikers in plaats van alleen op een Neural Processing Unit (NPU).
SLM’s die dienen als basis voor functies zoals Recall en Live Captions kunnen nu profiteren van de hogere algemene AI-capaciteiten van GPU’s. Deze ontwikkeling doorbreekt de exclusiviteit van AI-toepassingen die gebonden zijn aan de Copilot+ omgeving en breidt de toegankelijkheid uit naar pc’s die niet over de benodigde NPU beschikken.
Voorheen vereisten de Copilot+ personal computers een NPU die minimaal 40 biljoen bewerkingen per seconde (TOPS) kon uitvoeren. Tot dusver kon alleen de Snapdragon X Elite-chipset aan die eisen voldoen. GPU’s overtreffen echter deze capaciteiten, waarbij zelfs de goedkopere modellen tot 100 TOPS bereiken en de high-end modellen dit ruimschoots overtreffen.
De nieuwe API brengt Enhanced Retrieval Generation (ERG)-mogelijkheden naar de Copilot runtime, waardoor AI-modellen specifieke lokale informatie kunnen raadplegen, waardoor relevantere oplossingen worden geboden, zoals eerder gedemonstreerd in Nvidia’s Chat met RTX.
Naast de API kondigde Nvidia de RTX AI toolkit aan op Computex. Gepland voor release in juni, combineert deze toolkit een verscheidenheid aan ontwikkelaarstools en Software Development Kits (SDK’s), waardoor nauwkeurig afgestemde AI-modellen voor specifieke toepassingen mogelijk zijn. Volgens Nvidia maakt de RTX AI toolkit de creatie van modellen tot vier keer sneller en drie keer kleiner in vergelijking met open-source alternatieven mogelijk.
De toename van ontwikkelaarstools stimuleert de creatie van op maat gemaakte AI-toepassingen voor gebruikers. Hoewel sommige functies al te zien waren in Copilot+ pc’s, worden meer geavanceerde AI-toepassingen verwacht in het komende jaar. Met de juiste hardware op zijn plaats, hebben ontwikkelaars alleen nog de programmering nodig om het volledige potentieel van deze toepassingen te benutten.
Belangrijke Vragen en Antwoorden:
1. Wat is het doel van de samenwerking tussen Nvidia en Microsoft met de nieuw aangekondigde API?
De samenwerking heeft tot doel om ontwikkelaars in staat te stellen Small Language Models (SLM’s) uit te voeren op Nvidia’s RTX GPU’s in plaats van ze te beperken tot Neural Processing Units (NPUs), waardoor de mogelijkheden voor op AI gebaseerde functies als Recall en Live Captions worden verbreed naar apparaten zonder NPU-capaciteiten.
2. Hoe profiteren pc’s zonder NPUs van deze samenwerking?
Deze samenwerking maakt het mogelijk voor pc’s zonder de toegewijde NPU-hardware, specifiek ontworpen voor AI-taken, om hun bestaande Nvidia RTX GPU’s te gebruiken voor het uitvoeren van SLM’s voor AI-toepassingen, waardoor de technologie toegankelijker wordt.
3. Wat zijn de mogelijke implicaties voor de ontwikkeling van AI-toepassingen?
Met Nvidia’s nieuwe RTX AI toolkit krijgen ontwikkelaars toegang tot geavanceerde tools en SDK’s, die hun mogelijkheid om efficiënte en krachtige AI-modellen te creëren aanzienlijk zullen verbeteren. Door het proces van creëren te versnellen en de modelgrootte te verkleinen, wordt verwacht dat dit een breder scala aan innovatieve en zeer op maat gemaakte AI-toepassingen zal aanmoedigen.
Belangrijke Uitdagingen en Controverses:
Dataprivacy en -beveiliging: Met de toenemende integratie van AI in meer apparaten en toepassingen bestaat de bezorgdheid over hoe data wordt gebruikt en beschermd. Het gebruik van SLM’s in lokale GPU’s zou mogelijk kwetsbaarheden kunnen creëren als er geen passende maatregelen zijn genomen om data te beveiligen.
Toegankelijkheid en Gelijkheid: AI-ontwikkelingen zouden niet alleen gericht moeten zijn op diegenen met high-end hardware. Er moeten inspanningen worden geleverd om ervoor te zorgen dat een breder publiek kan profiteren van deze ontwikkelingen, anders bestaat het risico dat de kloof in technologische toegang wordt vergroot.
Voordelen:
– Ruimere Toegang: Ontwikkelaars kunnen de rekenkracht van wijdverbreide RTX GPU’s benutten om op AI gebaseerde toepassingen te creëren.
– Prestaties: Nvidia RTX GPU’s bieden hoge TOPS capaciteiten, waardoor robuustere AI-toepassingen mogelijk zijn.
– Snelheid van Ontwikkeling: De RTX AI toolkit belooft snellere en efficiëntere creatie van AI-modellen.
Nadelen:
– Afhankelijkheid van Hardware: Hoewel deze samenwerking de toegang verbreedt, is deze nog steeds afhankelijk van het hebben van een Nvidia RTX GPU, wat een barrière kan vormen voor sommige gebruikers.
– Complexiteit: Het ontwikkelen van geavanceerde AI-toepassingen vereist aanzienlijke technische expertise, wat potentieel beperkt wie deze nieuwe tools kan gebruiken.
Om verdere details te ontdekken over het domein van Nvidia en Microsoft, kunt u een bezoek brengen aan:
– Nvidia
– Microsoft