Nvidia, en kjent brikkeprodusent og ledende innen grafikkprosessorenheter (GPUs), trår inn i generativ AI-verdenen. Deres nyeste prosjekt, «Chat with RTX,» presenterer en tidlig versjon av en gratis teknisk demonstrasjon som lar brukere tilpasse en chatbot med eget personlig innhold på Windows-PCer.
Det som gjør Chat with RTX unik er dens evne til å bruke lokale filer som kunnskapskilder. Forestill deg å ha en mengde dokumenter og notater lagret på datamaskinen din. Ved å integrere disse lokale filene på en PC i en åpen kildekode for språkmodeller, som Mistral eller Llama 2, kan brukerne generere nøyaktige og relevante svar på spørsmålene sine. Denne funksjonaliteten blir muliggjort gjennom implementeringen av retrieval-augmented generation (RAG), Nvidia TensorRT-LLM-programvare og Nvidia RTX-akselerasjon, som bringer generativ AI-kapasiteter til lokale Windows-PCer drevet av GeForce.
RAG er en avansert metode som forbedrer presisjonen og påliteligheten til generative AI-modeller ved å dra nytte av informasjon hentet fra eksterne kilder. Dette innovative verktøyet støtter ulike filformater, inkludert .txt, .pdf, .doc/.docx og .xml. Videre kan brukerne inkludere informasjon fra multimedia-kilder som YouTube-videoer og spillelister. Ved å legge til en YouTube-lenke i verktøyet kan brukere stille spesifikke spørsmål knyttet til videoens innhold, og verktøyet vil gi relevante svar basert på videoen selv.
For å bruke Chat with RTX kan brukere enkelt laste det ned og installere det fra den offisielle Nvidia-nettsiden. Verktøyet krever en PC som kjører Windows 10 eller 11 med en GeForce RTX 30-serie GPU eller høyere, utstyrt med minst 8GB video random access memory (VRAM), samt de nyeste Nvidia GPU-driverne.
En betydelig forskjell som setter Chat with RTX fra hverandre fra andre AI-chatbots, som ChatGPT eller Gemini, er dens raske svar, takket være kompatibiliteten med Windows RTX-PCer og arbeidsstasjoner. Videre sikrer Chat with RTX brukernes personvern ved å håndtere sensitive data lokalt, og eliminerer behovet for deling med tredjeparter eller en internettilkobling.
Til sammen bringer Nvidias Chat with RTX en ny tilnærming til å tilpasse chatbots. Ved å utnytte kraften til lokale filer og inkorporere ekstern kunnskap, kan brukere generere svært nøyaktige og spesifikke svar på sine spørsmål. Med sømløs integrasjon i Windows RTX-PCer og et sterkt fokus på datasikkerhet, tilbyr Chat with RTX enestående brukeropplevelse for de som utforsker generativ AI-verdenen.
Ofte stilte spørsmål (FAQ) om Nvidias Chat with RTX:
1. Hva er Chat with RTX?
Chat with RTX er en gratis teknisk demonstrasjon utviklet av Nvidia som lar brukere tilpasse en chatbot med eget personlig innhold på Windows-PCer. Den bruker lokale filer lagret på datamaskinen til å generere nøyaktige og relevante svar på brukerens spørsmål.
2. Hvordan bruker Chat with RTX lokale filer som kunnskapskilder?
Chat with RTX inkorporerer lokale filer på en PC i en åpen kildekode for språkmodell, som Mistral eller Llama 2, for å generere svar. Dette blir muliggjort gjennom implementeringen av retrieval-augmented generation (RAG) og Nvidia TensorRT-LLM-programvare, i tillegg til Nvidia RTX-akselerasjon.
3. Hvilke filformater støtter Chat with RTX?
Chat with RTX støtter ulike filformater, inkludert .txt, .pdf, .doc/.docx og .xml. Den tillater også brukere å inkludere informasjon fra multimedia-kilder som YouTube-videoer og spillelister.
4. Hvordan kan brukere laste ned og installere Chat with RTX?
Brukere kan enkelt laste ned og installere Chat with RTX fra den offisielle Nvidia-nettsiden. Det krever en PC som kjører Windows 10 eller 11 med en GeForce RTX 30-serie GPU eller høyere, utstyrt med minst 8GB VRAM, samt de nyeste Nvidia GPU-driverne.
5. Hva skiller Chat with RTX fra andre AI-chatbots?
En betydelig forskjell som skiller Chat with RTX fra andre AI-chatbots er dens kompatibilitet med Windows RTX-PCer og arbeidsstasjoner, som muliggjør raske svar. Den sikrer også brukernes personvern ved å behandle sensitive data lokalt, og eliminerer behovet for deling med tredjeparter eller en internettilkobling.
For mer informasjon om Nvidia og produktene deres, kan du besøke Nvidias offisielle nettside.
The source of the article is from the blog publicsectortravel.org.uk