Nvidia on tutvustanud läbimurdelist AI-vestlusboti nimega “Vestle RTX-ga”, mis on loodud tõhustama kohalikke failide otsinguvõimalusi Windowsi arvutites, millel on Nvidia GeForce RTX graafikakaardid. Kasutades GPU kiirendust ja Nvidia retrieval-augmented generation (RAG) tehnoloogiat, võimaldab see vestlusbot kasutajatel saada kiireid ja olukorrapõhiseid vastuseid loomuliku keele küsimustele ilma internetiühenduseta.
Erinevalt traditsioonilistest vestlusbotidest, mis tuginevad pilvepõhistele teenustele, töötab Vestle RTX kohapeal arvutis, tagades kasutaja tundliku info turvalisuse. Kasutajad saavad isikupärastada vestlusboti, andes talle oma dokumendid, tekstifailid, PDF-id ja YouTube’i videod, võimaldades sellel luua põhjaliku teadmiste andmebaasi. See toetab erinevaid failivormaate, sealhulgas .txt, .pdf ja .doc, samuti YouTube’i videotõlkeid.
Üks Vestle RTX-i märkimisväärsemaid omadusi on selle võime kiiresti skannida kohalikke faile teabe leidmiseks. Näiteks kui kasutaja soovib meenutada restorani nime, mida nende abikaasa soovitas, saavad nad lihtsalt selle küsimuse esitada Vestle RTX-ile, mis otsib kohe kasutaja failidest vastuse. Töötluskiirust kiirendab oluliselt Nvidia GeForce RTX 30 või 40 seeria graafikakaartide AI võimekus.
Kuigi Vestle RTX-il on muljetavaldav funktsionaalsus, on sellel siiski piirangud, näiteks kontekstuaalsete seoste puudumine küsimuste vahel ja piiratud võime käsitseda järelepärimisi. Siiski on Nvidia pühendunud selle vestlusboti võimete pidevale täiustamisele ja täiustamisele aja jooksul.
Innovatsiooni edendamiseks selles valdkonnas korraldab Nvidia arendajate võistluse, kus osalejad on kutsutud looma RTX-kiirendusega, generatiivsete AI-s rakendusi ja pistikprogramme Windowsile, kasutades Nvidia TensorRT-LLM raamistikku, mis toetab Vestle RTX-i taga olevat tehnoloogiat. Selle algatuse eesmärk on tuua veelgi võimsamaid kohalikke AI võimeid arvutitesse, millel on Nvidia RTX graafikakaardid.
Vestle RTX demoäpp on tasuta allalaadimiseks saadaval eksklusiivselt GeForce RTX arvutite omanikele, kes vastavad miinimumnõuetele, sealhulgas Windows 10/11, RTX 30/40 GPU koos 8GB+ VRAM-iga ja viimased Nvidia draiverid. Nvidia käivitamine selle AI-vestlusbotiga märgib olulist sammu kohaliku failide otsingu revolutsiooni suunas, võimaldades kasutajatel kiiret ja tõhusat juurdepääsu oma isiklikule teadmiste baasile.
“Vestle RTX-ga” KKK
The source of the article is from the blog guambia.com.uy