NVIDIA har introducerat Chat with RTX, en banbrytande tech-demo som gör det möjligt för användare att utnyttja förmågorna hos generativ artificiell intelligens (gen AI) chattrobotar på sina lokala maskiner. Men det som gör detta erbjudande unikt är anpassningsmöjligheterna. Genom att dra nytta av den kraftfulla NVIDIA GeForce RTX 30-seriens GPU eller högre, och med minst 8 GB VRAM, kan användare använda sig av ett brett utbud av rik data och kontext för att förbättra chattrobotens svar.
”Chat with RTX ger generativa AI-funktioner till lokala, GeForce-drivna Windows-datorer,” förklarar Jesse Clayton på NVIDIA. ”Användare kan smidigt integrera olika lokala filer, inklusive vanlig text, Microsoft Word-dokument, PDF-filer och till och med YouTube-videor och spellistor för att ge chattroboten värdefull information.”
Till skillnad från molnbaserade språkmodellstjänster bearbetar Chat with RTX data lokalt, vilket garanterar snabbare resultat och högsta integritet. Användare kan nu utnyttja kraften i sin egen dator utan att behöva dela känslig data med tredje parter eller förlita sig på en internetanslutning.
Utvecklare kommer att finna ännu större värde i Chat with RTX. Tech-demon, som är kompatibel med Windows 10 och senare, NVIDIA GeForce RTX 30-seriens GPU:er med 8 GB VRAM eller mer, och de senaste drivrutinerna för grafikkort, fungerar som en trampsten för att accelerera stora språkmodeller (LLM) med hjälp av RTX GPU:er. NVIDIA:s TensorRT-LLM RAG utvecklarreferensprojekt, som finns på GitHub, ger utvecklare möjlighet att skapa och implementera sina egna RAG-baserade applikationer, vilket ytterligare utvidgar möjligheterna inom generativ AI.
Upptäck den transformerande potentialen hos generativ AI med Chat with RTX. Besök NVIDIAs webbplats och ladda ner denna anmärkningsvärda tech-demo idag. Släpp lös din fantasi och upptäck de gränslösa möjligheterna med lokaliserad, GPU-driven generativ AI.
Frågor och svar – Chat with RTX
The source of the article is from the blog radiohotmusic.it