ChatRTXTensorRT-LLM

NVIDIA ChatRTX：70GB空间换来隐私与速度，离线AI工具真香

一、 ChatRTX是什么 简单来说，ChatRTX是英伟达推出的 本地RAG聊天应用 ：把你的 文档、笔记、图片 等内容建库，配合大语言模型进行检索增强回答。它基于TensorRT-LLM与NIM微服务并利用RTX显卡加速，回答更快、更私密，相比把资料传到云端更可控。 核心功能包括： - 和你的文...