Nvidia, известный производитель микросхем и лидер в области графических процессоров (GPU), вступает в область генеративного искусственного интеллекта. Их последний проект, «Chat with RTX», представляет собой раннюю версию бесплатной технической демонстрации, позволяющей пользователям настраивать чатбота с собственным личным контентом на компьютерах под управлением Windows.
Уникальность Chat with RTX заключается в его способности использовать локальные файлы в качестве источников знаний. Представьте, что у вас имеется множество документов и заметок, хранящихся на вашем компьютере. Путем интеграции этих локальных файлов на ПК в модель на основе открытых исходных кодов большого языкового модуля, таких как Mistral или Llama 2, пользователи могут генерировать точные и интересующие ответы на свои вопросы. Эта возможность становится возможной благодаря внедрению метода генерации, дополненной извлечением информации (RAG), программного обеспечения Nvidia TensorRT-LLM и ускорителя Nvidia RTX, который придает свойства генеративного ИИ на локальных, под управлением Windows, компьютерах с графическими процессорами GeForce.
RAG — это передовой метод, который повышает точность и надежность моделей генеративного ИИ, используя информацию, полученную из внешних источников. Этот инновационный инструмент поддерживает различные форматы файлов, включая .txt, .pdf, .doc/.docx и .xml. Кроме того, он позволяет пользователям включать информацию из мультимедийных источников, таких как видео и плейлисты YouTube. Добавив ссылку на YouTube в инструмент, пользователи могут задавать конкретные вопросы, связанные с содержанием видео, и инструмент предоставит соответствующие ответы на основе самого видео.
Для использования Chat with RTX пользователи могут легко скачать и установить его с официального веб-сайта Nvidia. Для работы инструмента требуется ПК под управлением Windows 10 или 11 с графическим процессором GeForce RTX серии 30 или выше, оснащенным не менее 8 ГБ видеопамяти (VRAM), а также последними драйверами графического процессора Nvidia.
Одной из существенных особенностей, отличающих Chat with RTX от других чатботов на базе ИИ, таких как ChatGPT или Gemini, является его быстрая реакция благодаря совместимости с ПК и рабочими станциями на базе Windows RTX. Более того, Chat with RTX обеспечивает конфиденциальность данных пользователя, позволяя обрабатывать конфиденциальную информацию локально, исключая необходимость использования стороннего обмена или подключения к Интернету.
В заключение, Chat with RTX от Nvidia предлагает новый подход к персонализации чатботов. Благодаря использованию локальных файлов и внешних знаний пользователи могут генерировать точные и специфические ответы на свои вопросы. Благодаря беспроблемной интеграции с ПК на базе Windows RTX и вниманию к конфиденциальности данных, Chat with RTX предлагает исключительный пользовательский опыт для тех, кто готов проникнуть в мир генеративного ИИ.
Часто задаваемые вопросы (FAQ) о Chat with RTX от Nvidia:
1. Что такое Chat with RTX?
Chat with RTX — бесплатная техническая демонстрация, разработанная Nvidia, которая позволяет пользователям настраивать чатбота с собственным личным контентом на компьютерах под управлением Windows. Он использует локальные файлы, хранящиеся на компьютере, для генерации точных и интересующих ответов на вопросы пользователей.
2. Как Chat with RTX использует локальные файлы в качестве источников знаний?
Chat with RTX интегрирует локальные файлы на ПК в модель на основе открытых исходных кодов большого языкового модуля, таких как Mistral или Llama 2, для генерации ответов. Это становится возможным благодаря внедрению метода генерации, дополненной извлечением информации (RAG) и программного обеспечения Nvidia TensorRT-LLM, а также ускорителя Nvidia RTX.
3. Какие форматы файлов поддерживает Chat with RTX?
Chat with RTX поддерживает различные форматы файлов, включая .txt, .pdf, .doc/.docx и .xml. Он также позволяет пользователям включать информацию из мультимедийных источников, таких как видео и плейлисты YouTube.
4. Как пользователи могут скачать и установить Chat with RTX?
Пользователи могут легко скачать и установить Chat with RTX с официального веб-сайта Nvidia. Для работы инструмента требуется ПК под управлением Windows 10 или 11 с графическим процессором GeForce RTX серии 30 или выше, оснащенным не менее 8 ГБ видеопамяти (VRAM), а также последними драйверами графического процессора Nvidia.
5. Чем Chat with RTX отличается от других чатботов на базе ИИ?
Одной из существенных особенностей, отличающих Chat with RTX, является его совместимость с ПК и рабочими станциями на базе Windows RTX, что обеспечивает быстрые ответы. Он также обеспечивает конфиденциальность данных пользователей, обрабатывая конфиденциальную информацию локально и исключая необходимость использования стороннего обмена или подключения к Интернету.
Для получения дополнительной информации о Nvidia и их продуктах вы можете посетить официальный веб-сайт Nvidia.
[внедрение]https://www.youtube.com/embed/5R8xZb6J3r0[/внедрение]
The source of the article is from the blog regiozottegem.be