Nvidia, poznati proizvođač čipova i lider u obradi grafike (GPU), ulazi u područje generativne umjetne inteligencije. Njihov najnoviji projekt, “Chat with RTX”, predstavlja rani oblik besplatne tehnološke demonstracije koja korisnicima omogućuje prilagodbu chatbota s njihovim vlastitim sadržajem na Windows računalima.
Ono što čini Chat with RTX jedinstvenim je njegova sposobnost korištenja lokalnih datoteka kao izvora znanja. Zamislite da imate mnogo dokumenata i bilješki pohranjenih na vašem računalu. Uključivanjem tih lokalnih datoteka na računalu u otvoreni veliki jezični model, poput Mistrala ili Llame 2, korisnici mogu generirati točne i relevantne odgovore na svoja pitanja. Ova mogućnost omogućena je implementacijom poboljšane generacije (RAG), softvera Nvidia TensorRT-LLM i Nvidia RTX ubrazanja, koji omogućuje generativne AI mogućnosti na lokalnim Windows računalima s GeForce napajanjem.
RAG je napredna metoda koja poboljšava točnost i pouzdanost generativnih AI modela koristeći informacije dobivene iz vanjskih izvora. Ovaj inovativni alat podržava razne formate datoteka, uključujući .txt, .pdf, .doc/.docx i .xml. Nadalje, omogućuje korisnicima da uključe informacije iz multimedijskih izvora poput YouTube videozapisa i popisa za reprodukciju. Dodavanjem YouTube veze u alat, korisnici mogu postavljati specifična pitanja vezana uz sadržaj videa, a alat će pružiti relevantne odgovore temeljene na samom videu.
Da biste koristili Chat with RTX, korisnici ga lako mogu preuzeti i instalirati s službene Nvidia web stranice. Alat zahtijeva računalo koje pokreće Windows 10 ili 11 s GPU GeForce RTX serije 30 ili više opremljeno s barem 8 GB video radne memorije (VRAM), kao i najnovije Nvidia GPU upravljačke programe.
Jedan značajan aspekt koji razlikuje Chat with RTX od drugih AI chatbota, poput ChatGPT-a ili Geminija, je njegova brza odzivnost, zahvaljujući kompatibilnosti s Windows RTX računalima i radnim stanicama. Osim toga, Chat with RTX osigurava privatnost korisnika omogućavajući obradu osjetljivih podataka lokalno, eliminirajući potrebu za dijeljenjem s trećim stranama ili internet vezom.
Zaključno, Chat with RTX kompanije Nvidia donosi novi pristup personalizaciji chatbota. Koristeći snagu lokalnih datoteka i uključivanje vanjskog znanja, korisnici mogu generirati visoko precizne i specifične odgovore na svoja pitanja. Sa svojom besprijekornom integracijom u Windows RTX računala i posvećenošću privatnosti podataka, Chat with RTX nudi iznimno korisničko iskustvo onima koji se upuštaju u područje generativne umjetne inteligencije.
Često postavljena pitanja (FAQ) o Nvidia Chat with RTX:
1. Što je Chat with RTX?
Chat with RTX je besplatna tehnološka demonstracija koju je razvio Nvidia, a omogućuje korisnicima prilagodbu chatbota s njihovim vlastitim sadržajem na Windows računalima. Koristi lokalne datoteke pohranjene na računalu za generiranje točnih i relevantnih odgovora na korisnička pitanja.
2. Kako Chat with RTX koristi lokalne datoteke kao izvore znanja?
Chat with RTX uključuje lokalne datoteke na računalu u otvoreni veliki jezični model, poput Mistrala ili Llame 2, kako bi generirao odgovore. To je moguće zahvaljujući implementaciji poboljšane generacije (RAG) i softvera Nvidia TensorRT-LLM, zajedno s Nvidia RTX ubrazavanjem.
3. Koje formate datoteka podržava Chat with RTX?
Chat with RTX podržava razne formate datoteka, uključujući .txt, .pdf, .doc/.docx i .xml. Također omogućuje korisnicima da uključe informacije iz multimedijskih izvora poput YouTube videozapisa i popisa za reprodukciju.
4. Kako korisnici mogu preuzeti i instalirati Chat with RTX?
Korisnici lako mogu preuzeti i instalirati Chat with RTX s službene Nvidia web stranice. Alat zahtijeva računalo koje pokreće Windows 10 ili 11 s GPU GeForce RTX serije 30 ili više opremljeno s barem 8 GB VRAM-a, kao i najnovije Nvidia GPU upravljačke programe.
5. Što razlikuje Chat with RTX od drugih AI chatbota?
Jedan značajan aspekt koji razlikuje Chat with RTX je njegova kompatibilnost s Windows RTX računalima i radnim stanicama, što omogućuje brze odgovore. Također osigurava privatnost korisnika obradom osjetljivih podataka lokalno, eliminirajući potrebu za dijeljenjem s trećim stranama ili internet vezom.
Za više informacija o Nvidia-i i njihovim proizvodima, posjetite službenu Nvidia web stranicu.
The source of the article is from the blog cheap-sound.com