DeepInfer 是 DeepSeek 在 GitHub 上公开的推理框架，组织名是 deepseek-ai，项目名是 DeepInfer，采用 Apache 2.0 许可证。它自称是支撑 DeepSeek 大规模线上服务的推理框架，发布时只支持 DeepSeek-V4.1-Flash 这一个模型。结论先说清：想研究 DeepSeek 怎么做大规模推理，它值得看；想直接拿它对外提供服务，缺的东西还得自己补。
官方仓库里有什么
仓库里有 DeepSeek 之前陆续开源的算子，包括 FlashMLA、DeepGEMM、DeepEP，以及用 TileLang 写的新算子，推测解码方案叫 DSpark，另有结构化输出支持。框架基于 vLLM 发展而来，也吸收了 SGLang 与 TensorRT-LLM 的思路。硬件只支持两类：英伟达 SM100 这一代数据中心显卡，以及华为昇腾 950。环境要求写得很具体：Linux 系统、GCC 13 或更新版本、Python 3.12，英伟达路线用 CUDA 13，昇腾路线用 CANN 9.2。默认权重是 Hugging Face 上的 DeepSeek-V4.1-Flash-1017，首次运行会自动下载。
仓库里没有的三样东西
DeepSeek 在仓库自述里写明了，完整推理服务还需要、但这次没公开的三部分：键值缓存系统、前处理与解码拆分到不同机器池的基础设施、跨数据并行副本的负载均衡。也就是说，仓库给的是推理核心，不是开箱即用的线上服务。官方说法里单个集群每天处理 155 万亿 Token、谷时定价下每卡每小时 38 美元收入，这些数字来自 DeepSeek 自己的说法，未经独立核实，评估时只能当作参考，不能当作自己部署后的承诺。
部署成本与真实坑点
成本先看硬件门槛：普通笔记本和消费级显卡不在支持范围内，起步就是数据中心显卡或昇腾卡，外加配套的驱动与编译环境，个人开发者基本不用考虑本地跑。坑点有三：项目发布不到一个月，文档和版本还在快速变化，照着旧教程抄容易跑不通；只支持 V4.1-Flash 一个模型，换模型就得另找框架；缺失的缓存与负载均衡部分，自己补需要读懂整套代码。适合的人是做推理服务的工程师和团队，用它学习生产级推理实现；不适合的人是只想调用模型的人，直接用 DeepSeek 的 API 或现成的 vLLM 更省事。
