Nvidia je ušla u svijet generativne umjetne inteligencije s novom aplikacijom nazvanom Chat with RTX. Ovaj program omogućuje korisnicima pokretanje vlastitih velikih jezičnih modela na njihovom računalu, koristeći snagu Nvidia RTX 30 i RTX 40 serije grafičkih kartica. Najbolji dio? Ne morate se oslanjati na usluge temeljene na oblaku ili davati svoje podatke kako biste pristupili ovom alatu AI.
Za početak rada s Chat with RTX, korisnici trebaju osigurati da imaju najnovije drivere za svoju Nvidia GPU i zadovoljavaju sistemsku konfiguraciju, uključujući Windows 11, GeForce RTX 30/40 seriju GPU-a i najmanje 16 GB RAM-a. Aplikacija je označena kao “demo aplikacija”, što znači da možda još uvijek ima neke bugove i probleme, ali pruža uzbudljiv uvid u mogućnosti AI.
Kada je instaliran, korisnici mogu odabrati između dva open-source AI modela, Mistral ili Llama, i početi slati upite programu. Slično drugim LLM-ovima, Chat with RTX može pomoći u raznim zadacima poput sastavljanja e-mailova, pojednostavljivanja složenih tema i odgovaranja na pitanja temeljena na svojoj obuhvatnoj obuci s on-line tekstovima.
Jedna zanimljiva značajka Chat with RTX-a je njegova mogućnost uključivanja korisničkih podataka i YouTube videa. Korisnici mogu usmjeriti program prema mapi koja sadrži dokumente na koje žele da se AI referencira, omogućavajući prilagođene odgovore. Program također može analizirati YouTube videozapise obrađujući njihove transkripte, što omogućava generiranje odgovora na temelju sadržaja videa.
Međutim, važno je napomenuti da je Chat with RTX još uvijek u ranim fazama i možda ne pruža 100-postotno točne rezultate. Namijenjen je istraživanju i eksperimentiranju umjesto kritičkog donošenja odluka.
Nvidia Chat with RTX proširuje dostupnost generativne AI, omogućujući korisnicima da iskoriste potencijal velikih jezičnih modela na vlastitom računalu. Pomoću ovog novog alata, korisnici mogu istražiti mogućnosti AI-a bez oslanjanja na vanjske usluge i zadržati kontrolu nad svojim podacima i upitima. Dok tehnologija AI-a nastavlja napredovati, programi poput Chat with RTX dovode revoluciju AI-a izravno u ruke korisnika.
Pitanja i odgovori o Nvidia Chat with RTX:
The source of the article is from the blog krama.net