Nvidia har introducerat en banbrytande AI-chattbot kallad ”Chatta med RTX”, som utformats för att förbättra möjligheterna för lokal filsearch på Windows-datorer utrustade med Nvidia GeForce RTX-grafikkort. Genom att utnyttja kraften hos GPU-acceleration och Nvidias retrieval-augmented generation (RAG) -teknik, gör denna chattbot det möjligt för användare att snabbt få relevanta svar på naturliga språkfrågor utan behov av en internetanslutning.
Till skillnad från traditionella chattbotar som använder molnbaserade tjänster, fungerar Chatta med RTX lokalt på datorn och säkerställer att känsliga användardata förblir säkert på enheten. Användare kan anpassa chattboten genom att mata den med egna dokument, textfiler, PDF-filer och YouTube-videor, vilket gör att den kan bygga upp en omfattande kunskapsdatabas. Den stöder olika filformat, inklusive .txt, .pdf och .doc, samt YouTube-videotranskriptioner.
En av de mest anmärkningsvärda funktionerna hos Chatta med RTX är dess förmåga att snabbt söka igenom lokala filer efter information. Till exempel kan en användare som vill komma ihåg namnet på en restaurang som rekommenderades av deras partner enkelt ställa frågan till Chatta med RTX, som snabbt skulle söka igenom användarens filer och erbjuda svaret. Bearbetningshastigheten accelereras av AI-funktionerna hos Nvidia GeForce RTX 30- eller 40-seriens grafikkort.
Även om Chatta med RTX visar imponerande funktionalitet finns det fortfarande begränsningar, som bristen på sammanhang mellan frågor och dess begränsade förmåga att hantera uppföljningsförfrågningar. Men Nvidia har åtagit sig att kontinuerligt förbättra och förädla chattbotens förmågor över tiden.
För att ytterligare främja innovation inom området sponsrar Nvidia en utvecklartävling som inbjuder deltagare att skapa RTX-accelererade, generativa AI-Windows-appar och tillägg med hjälp av TensorRT-LLM-ramverket, som ligger till grund för tekniken bakom Chatta med RTX. Denna initiativ har potentialen att ge ännu kraftfullare lokala AI-funktioner till datorer utrustade med Nvidia RTX-grafikkort.
Demoappen för Chatta med RTX finns tillgänglig som en gratis nedladdning exklusivt för GeForce RTX-ägare som uppfyller de minimikrav som gäller för hårdvaran, inklusive Windows 10/11, en RTX 30/40 GPU med 8GB+ VRAM och de senaste Nvidia-drivrutinerna. Nvidias lansering av denna AI-chattbot markerar ett betydande steg mot att revolutionera lokal filsearch och ge användare snabb och effektiv åtkomst till sin personliga kunskapsbas.
”Chatta med RTX” – Vanliga frågor och svar
The source of the article is from the blog newyorkpostgazette.com