Nvidia, atzīts čipu ražotājs un grafikas apstrādes vienību (GPU) tirgus līderis, iet soli uz priekšu generatīvās AI jomā. Viņu jaunais projekts “Chat with RTX” piedāvā priekšlaicīgu versiju bezmaksas tehnoloģiju demonstrējumam, kas ļauj lietotājiem pielāgot čatbotu ar savu personīgo saturu Windows datoros.
Tas, kas padara Chat with RTX izcilu, ir tā spēja izmantot lokālās datnes kā zināšanu avotus. Iedomājieties, ka jums ir liels daudzums dokumentu un piezīmju saglabāts datorā. Iekļaujot šīs lokālās datnes datorā atvērtā koda lielā valodas modeļa, piemēram, Mistral vai Llama 2, lietotāji var ģenerēt precīzas un relevantas atbildes uz savām jautājumiem. Šāda spēja ir iespējama, izmantojot atsaukšanas papildinātu ģenerāciju (RAG), Nvidia TensorRT-LLM programmatūru un Nvidia RTX paātrināšanu, kas nodrošina generatīvas AI spējas vietējiem, ar GeForce aprīkotiem Windows datoriem.
RAG ir uzlabota metode, kas uzlabo generatīvo AI modeļu precizitāti un uzticamību, izmantojot informāciju, kas iegūta no ārējiem avotiem. Šis inovatīvais rīks atbalsta dažādus failu formātus, tai skaitā .txt, .pdf, .doc/.docx un .xml. Turklāt tas ļauj iekļaut informāciju no multimēdiju avotiem, piemēram, YouTube video un atskaņošanas sarakstiem. Pievienojot YouTube saiti rīkam, lietotāji var uzdot konkrētus jautājumus, kas saistīti ar video saturu, un rīks sniegs attiecīgas atbildes, pamatojoties uz pašu video.
Lai izmantotu Chat with RTX, lietotāji var to viegli lejupielādēt un instalēt no oficiālās Nvidia mājaslapas. Rīkam ir nepieciešams dators ar Windows 10 vai 11, aprīkots ar GeForce RTX 30 sērijas vai jaunāko GPU, kam ir vismaz 8 GB video operatīvās atmiņas (VRAM), kā arī jaunākie Nvidia GPU vadītāji.
Viens no nozīmīgiem aspektiem, kas atšķir Chat with RTX no citiem AI čatbotiem, piemēram, ChatGPT vai Gemini, ir tā ātras atbildes, pateicoties saderībai ar Windows RTX datoriem un darba stacijām. Turklāt Chat with RTX nodrošina lietotāju privātumu, ļaujot apstrādāt jutīgus datus lokāli, izslēdzot nepieciešamību pēc datu koplietošanas trešajām pusēm vai interneta pieslēguma.
Secinājumā Nvidia Chat with RTX piedāvā jaunu pieeju čatbota personalizēšanai. Izmantojot lokālo datu resursu jaudu un ārējo zināšanu iekļaušanu, lietotāji var ģenerēt ļoti precīzas un specifiskas atbildes uz savām jautājumiem. Ar savu nevērīgu integrāciju Windows RTX datoros un apņemšanos saglabāt datu privātumu, Chat with RTX piedāvā izcilu lietotāju pieredzi tiem, kas iepazīstas ar generatīvo AI jomu.
Bieži uzdotie jautājumi (BUJ) par Nvidia Chat with RTX:
1. Kas ir Chat with RTX?
Chat with RTX ir bezmaksas tehnoloģiju demonstrācija, ko izstrādājis Nvidia un kas ļauj lietotājiem pielāgot čatbotu ar savu personīgo saturu Windows datoros. Tas izmanto lokālās datnes, kas saglabātas datorā, lai ģenerētu precīzas un relevantas atbildes uz lietotāja jautājumiem.
2. Kā Chat with RTX izmanto lokālās datnes kā zināšanu avotus?
Chat with RTX iekļauj lokālās datnes datorā atvērtā koda lielā valodas modelī, piemēram, Mistral vai Llama 2, lai ģenerētu atbildes. To nodrošina atsaukšanas papildinātās ģenerācijas (RAG) un Nvidia TensorRT-LLM programmatūra, kā arī Nvidia RTX paātrināšana.
3. Kādus failu formātus atbalsta Chat with RTX?
Chat with RTX atbalsta dažādus failu formātus, tai skaitā .txt, .pdf, .doc/.docx un .xml. Tas arī ļauj iekļaut informāciju no multimēdiju avotiem, piemēram, YouTube video un atskaņošanas sarakstiem.
4. Kā lietotāji var lejupielādēt un instalēt Chat with RTX?
Lietotāji var viegli lejupielādēt un instalēt Chat with RTX no oficiālās Nvidia mājaslapas. Tam ir nepieciešams dators, kurā darbojas Windows 10 vai 11, kam ir GeForce RTX 30 sērijas vai jaunāka GPU aprīkojums ar vismaz 8 GB VRAM, kā arī jaunākie Nvidia GPU vadītāji.
5. Kas atšķir Chat with RTX no citiem AI čatbotiem?
Viena no nozīmīgām īpašībām, kas atšķir Chat with RTX, ir saderība ar Windows RTX datoriem un darbstacijām, kas ļauj ātri atbildēt. Tas arī nodrošina lietotāju privātumu, apstrādājot jutīgus datus lokāli, izslēdzot nepieciešamību pēc datu koplietošanas ar trešām pusēm vai interneta pieslēguma.
Lai iegūtu vairāk informācijas par Nvidia un viņu produktiem, varat apmeklēt oficiālo Nvidia mājaslapu.
The source of the article is from the blog mivalle.net.ar