Отключване на мощността на генериращото изкуствено интелигентност с „Chat with RTX“ на NVIDIA

NVIDIA представя „Chat with RTX“, уникална техническа демонстрация, която позволява на потребителите да задействат възможностите на генериращите изкуствени интелигентности (gen AI) чатботове на своите локални машини. Но това, което отличава тази услуга, е персонализацията, която предлага. Чрез използването на мощната видеокарта NVIDIA GeForce RTX серия 30 или по-нова, и с поне 8GB VRAM, потребителите могат да се възползват от богат избор от данни и контекст, за да подобрят отговорите на чатбота.

„Chat with RTX предлага възможности за генериране на изкуствен интелект за локални Windows компютри, задвижвани от GeForce,“ обяснява Джеси Клейтън от NVIDIA. „Потребителите могат да интегрират безпроблемно различни локални файлове, включително обикновен текст, документи в Microsoft Word, PDF файлове, и дори YouTube видеа и списъци с песни, за да осигурят на чатбота ценна информация.“

За разлика от услугите за езикови модели, разположени в облака, Chat with RTX обработва данните локално, осигурявайки по-бързи резултати и най-високо ниво на защита на личните данни. Потребителите вече могат да използват мощността на собствения си компютър, без да споделят чувствителни данни с трети страни или да зависят от интернет връзка.

Разработчиците ще намерят още по-голяма стойност в Chat with RTX. Техническата демонстрация, съвместима с Windows 10 и по-нови операционни системи, NVIDIA GeForce RTX серия 30 с 8GB VRAM или повече и най-новите драйвери за графични карти, служи като стъпка към ускоряване на големи езикови модели (LLM) с използване на RTX графични карти. Проектът за разработчици на NVIDIA – TensorRT-LLM RAG, наличен в GitHub, дава възможност на разработчиците да създават и внедряват собствени приложения, базирани на RAG, разширявайки още повече възможностите на генериращия изкуствен интелект.

Изживейте трансформационния потенциал на генериращия изкуствен интелект с Chat with RTX. Посетете уебсайта на NVIDIA и изтеглете тази изключителна техническа демонстрация днес. Отключете въображението си и открийте неограничените възможности на местния генериращ изкуствен интелект с мощността на видеокартата GPU.

Често задавани въпроси – Chat with RTX

В: Какво представлява Chat with RTX?
О: Chat with RTX е революционна техническа демонстрация от NVIDIA, която позволява на потребителите да използват генериращи изкуствени интелигентности (gen AI) чатботове на своите локални машини.

В: В какво се различава Chat with RTX от другите предложения за чатботове?
О: Chat with RTX предлага възможности за персонализация, позволявайки на потребителите да интегрират локални файлове като текст, документи в Word, PDF файлове, и дори YouTube видеа и списъци с песни, за да подобрят отговорите на чатбота.

В: Как обработва данните Chat with RTX?
О: За разлика от услугите на базата на облачна инфраструктура за езикови модели, Chat with RTX обработва данните локално на компютрите на потребителите, задвижвани от GeForce. Това осигурява по-бързи резултати и защита на личните данни на потребителите.

В: Кой може да се възползва от Chat with RTX?
О: Както потребителите, така и разработчиците могат да се възползват от Chat with RTX. Потребителите могат да използват богати данни и контекст, за да подобрят своето чатбот преживяване, докато разработчиците могат да изследват потенциала на големите езикови модели (LLM), използвайки RTX видеокартите.

Ключови термини / жаргон:

– Генерираща изкуствена интелигентност (gen AI): Технология на изкуствения интелект, която създава съдържание или отговори, често в човекоподобен стил, въз основа на предоставени данни или контекст.
– NVIDIA GeForce RTX серия 30 GPU: Серия на NVIDIA от видеокарти за графична обработка, осигуряващи напреднали възможности и производителност.
– VRAM: Видео динамична оперативна памет – вид памет, използван в видеокартите, за да съхранява временни данни, свързани с видеото или графиката.
– Услуги за езикови модели в облака: Услуги, които използват облачна инфраструктура за обработка и генериране на съдържание или отговори на основа на езикови модели.
– TensorRT-LLM RAG: Референтен проект на NVIDIA за разработчици, фокусиращ се върху ускоряването на големи езикови модели (LLM) с използването на RTX видеокарти.
– GitHub: Популярна уеб-платформа за контрол на версиите и сътрудничество по проекти за разработка на софтуер.

The source of the article is from the blog agogs.sk

Privacy policy
Contact