Nvidia har introduceret en banebrydende AI-chatbot kaldet “Chat med RTX”, designet til at forbedre lokal fil søgningsfunktionen på Windows-pc’er udstyret med Nvidia GeForce RTX-grafikkort. Ved at udnytte kraften fra GPU-akseleration og Nvidias retrieval-augmented generation (RAG) teknologi, giver denne chatbot brugerne mulighed for at modtage hurtige og kontekstbaserede svar på spørgsmål stillet i naturligt sprog uden behov for internetforbindelse.
I modsætning til traditionelle chatbots, der er afhængige af cloud-baserede tjenester, fungerer Chat med RTX lokalt på pc’en og sikrer, at følsomme brugerdata forbliver sikkert på enheden. Brugere kan personliggøre chatbot’en ved at tilføje deres egne dokumenter, tekstfiler, PDF’er og YouTube-videoer, så den kan opbygge en omfattende vidensdatabase. Den understøtter forskellige filformater, herunder .txt, .pdf og .doc, samt YouTube-video-transskriptioner.
En af de mest bemærkelsesværdige funktioner ved Chat med RTX er dens evne til hurtigt at skanne lokale filer efter information. For eksempel, hvis en bruger ønsker at huske navnet på en restaurant, som deres ægtefælle har anbefalet, kan de blot stille spørgsmålet til Chat med RTX, som hurtigt vil søge gennem brugerens filer for at give svaret. Behandlingshastigheden accelereres markant ved at udnytte AI-funktionerne i Nvidia GeForce RTX 30- eller 40-seriens grafikkort.
Selvom Chat med RTX viser imponerende funktionalitet, er der stadig begrænsninger, såsom manglende sammenhæng mellem spørgsmål og dens begrænsede evne til at håndtere opfølgende forespørgsler. Dog er Nvidia dedikeret til løbende at forbedre chatbot’ens kapaciteter.
For at yderligere fremme innovationen på området sponsorerer Nvidia en udviklerkonkurrence, der opfordrer deltagerne til at skabe RTX-akselererede, generative AI Windows-apps og plug-ins ved hjælp af deres TensorRT-LLM-framework, som ligger til grund for teknologien bag Chat med RTX. Dette initiativ har potentialet til at bringe endnu mere kraftfulde lokale AI-kapaciteter til pc’er udstyret med Nvidia RTX-grafikkort.
Demo-appen for Chat med RTX kan downloades gratis eksklusivt til GeForce RTX-pc-ejere, der opfylder de mindste hardwarekrav, herunder Windows 10/11, et RTX 30/40 GPU med 8GB+ VRAM og de nyeste Nvidia-drivere. Nvidias lancering af denne AI-chatbot markerer et betydeligt skridt hen imod at revolutionere lokal fil søgning og styrke brugerne med hurtig og effektiv adgang til deres personlige vidensbase.
“Chat med RTX” FAQ
The source of the article is from the blog hashtagsroom.com