Nvidia выкатила свой аналог ChatGPT, который работает локально. Модель называется Chat with RTX и доступна бесплатно всем владельцам видеокарт RTX 3000 или 4000 серий.
Что такое чат с RTX?
Chat With RTX — это демонстрационное приложение, которое позволяет персонализировать большую языковую модель GPT (LLM), связанную с вашим собственным контентом — документами, заметками, видео или другими данными. Используя генерацию с дополнением к извлечению (RAG), TensorRT-LLM и ускорение RTX, вы можете запрашивать пользовательского чат-бота, чтобы быстро получить контекстуально релевантные ответы. А поскольку все это работает локально на вашем ПК или рабочей станции с Windows RTX, вы получите быстрые и безопасные результаты.Требования к системе
| Платформа | Виндоус |
| Графический процессор | Графический процессор NVIDIA GeForce™ RTX серии 30 или 40 или графический процессор NVIDIA RTX™ Ampere или поколения Ada с не менее 8 ГБ видеопамяти |
| RAM | 16 ГБ или больше |
| ОС | Windows 11 |
| Driver | 535.11 или более поздней версии |
Чат с заметками, документами и видео
Chat with RTX поддерживает различные форматы файлов, включая текстовые, pdf, doc/docx и xml. Просто наведите приложение на папку, содержащую ваши файлы, и оно загрузит их в библиотеку за считанные секунды. Кроме того, вы можете указать URL-адрес плейлиста YouTube, и приложение загрузит транскрипции видео в плейлисте, что позволит вам запрашивать контент, который они охватывают.Скачать
Скачать можно здесь.
Последнее редактирование: