NVIDIA, ki je znana po izjemnih dosežkih na področju umetne inteligence, je do zdaj predvsem povezana z igralniško industrijo. Vendar podjetje zdaj cilja na premostitev vrzeli med umetno inteligenco in igralništvo s svojo najnovejšo ponudbo: Klepet z RTX. Ta AI klepetovalec deluje na vašem računalniku in izkorišča moč Tensor-RT jeder, ki se nahajajo v NVIDIA-jevih igralniških grafičnih procesnih enotah. Najbolj razburljiv vidik te programske opreme je njena sposobnost zagotavljanja dragocenih vpogledov v vaše podatke z uporabo velikih jezikovnih modelov (LLM).
Za razliko od drugih klepetov, Klepet z RTX deluje izključno na vašem računalniku, kar zagotavlja, da nobeni vaši podatki niso preneseni na strežnik v oblaku. Preprosto vnesite ustrezni nabor podatkov, in klepetovalec bo zagotovil odgovore na podlagi razpoložljivih informacij. Programska oprema poleg tega ponuja edinstveno funkcijo – sposobnost razumevanja videovnosa iz YouTube in odgovarjanja na vprašanja na podlagi zaprtih podnapisov. To je prelomnica pri izvlečenju informacij iz virov videa.
Za začetek lahko Klepet z RTX prenesete brezplačno, vendar namestitveni program zahteva 35 GB prostora. Vendar so potrebne nekatere predpogoje: kartica RTX 30 ali 40 serije z vsaj 8 GB VRAM in računalnik z vsaj 16 GB RAM-a. Čeprav je priporočljiv Windows 11, programska oprema deluje tudi brez težav na Windows 10. Na žalost je trenutno Klepet z RTX na voljo samo za Windows, brez omembe datuma izdaje za Linux.
Celoten postopek namestitve lahko traja do ene ure, saj se namestita dva jezikovna modela – Mistral 7B in LLaMA 2, ki zasedata približno 70 GB prostora. Ko je nameščen, se prikaže okno ukazne vrstice z aktivno sejo, ki vam omogoča postavljanje vprašanj prek vmesnika, ki deluje prek brskalnika.
Klepet z RTX odlično povzema podrobnosti in izjemno dobro deluje z usmerjenimi vprašanji. Vendar ima nekaj manjših težav, na primer občasno podaja napačne povezave. Kljub temu pa kot različica beta kaže ogromen potencial.
Ali ste navdušen igralec ali ljubitelj umetne inteligence, Klepet z RTX podjetja NVIDIA odpira nove možnosti. Možnost zagona klepeta z AI lokalno predstavlja pomemben razvoj in uporabnikom zagotavlja močno orodje za izvlečenje informacij iz lastnih podatkov. Torej, če ste pripravljeni sprostiti moč igralništva in umetne inteligence, Zakaj ne bi preizkusili Klepeta z RTX? Čeprav morda ni tako zmogljiv kot njegovi konkurenti, ga izstopa sposobnost uporabe osebnih naborov podatkov.
Pogosta vprašanja o Klepetu z RTX
The source of the article is from the blog agogs.sk