Nvidia nedávno představila inovativní nástroj AI nazvaný Chat s RTX, který je speciálně navržen pro počítače se systémem Windows. Tento nový nástroj využívá sílu generativní AI a výkon akcelerace Nvidia RTX, aby poskytl výjimečný zážitek z chatbotu. Na rozdíl od cloudových alternativ jako je Bing Chat, Google Bard a ChatGPT, Chat s RTX se provozuje lokálně, což zajišťuje zvýšené soukromí a bezpečnost pro uživatele.
Jednou pozoruhodnou funkcí Chatu s RTX je jeho schopnost fungovat offline. To znamená, že uživatelé mohou mít plynulé konverzace s chatbotem AI i bez připojení k internetu. Navíc tato lokální funkce poskytuje rychlejší výsledky a všechna uživatelská data zůstávají bezpečně uložena na jejich zařízeních.
Pro zlepšení schopností Chatu s RTX mohou uživatelé vstupovat své vlastní datasety tím, že začlení různé typy souborů, jako jsou PDF, dokumenty programu Word a textové soubory aplikace Notepad. Ale možnosti nekončí tam. Uživatelé mohou dokonce extrahovat znalosti z videí na YouTube jednoduše přidáním odkazu na video do nastavení aplikace.
Nvidia implementovala technologii retrieval-augmented generation (RAG) do Chatu s RTX, aby zlepšila přesnost jazykových a učících se modelů (LLM). To ve spojení s výkonem softwaru TensorRT-LLM a kompatibilním hardwarovým GPU umožňuje uživatelům plynulou interakci s chatbotem AI pomocí intuitivního rozhraní.
Pro odemknutí této impresivní funkcionality musí uživatelé zajistit, aby jejich počítač se systémem Windows splňoval systémové požadavky. Tyto zahrnují minimálně 16GB RAM, grafickou kartu Nvidia RTX 30 nebo RTX 40 Series s minimálně 8GB VRAM, ovladač GeForce v535.11 nebo novější a buď Windows 10 nebo 11. Velikost stahování pro Chata s RTX je poměrně velká, a to 35.1GB, přičemž se jedná o dvě velké jazykové modely, konkrétně Mistral a Llama 2.
Start Nvidia Chatu s RTX vyvolal mezi uživateli počítačů velký zájem. Možnost provozovat osobní AI chatbota pomocí grafické karty GeForce RTX zaručuje neuvěřitelný uživatelský zážitek. Jak víc jednotlivců vyzkouší tento nejmodernější nástroj, technologická komunita s netrpělivostí očekává jeho rozšířené nasazení a inovativní aplikace, které může odemknout.
Chat s RTX – Otázky a odpovědi
The source of the article is from the blog procarsrl.com.ar