10月20日，DeepSeek 在 GitHub 上开源了推理框架 DeepInfer，采用 Apache 2.0 许可。这是它内部生产服务的推理引擎，专门跑 DeepSeek-V4.1-Flash 模型。

推理引擎决定了模型怎么拆分到多块芯片、请求怎么排队、答案有多快，是 AI 公司真正的成本大头。DeepInfer 一次放出双硬件路线：英伟达 SM100 GPU 和华为昇腾 950 芯片，首版只覆盖离线推理。

DeepSeek 在知乎的技术文章里算了一笔账：一个集群每天可服务 155 万亿 token，已处理的信息缓存保留超过 72 小时。折算下来，相当于每 GPU 每小时约 38 美元的营收。

DeepSeek 资深研究员 Deli Chen 在 10 月 20 日当天发文，把开源与闭源之争称为「光明与黑暗之战」，说「对方要打多久，我们就打多久，直到彻底胜利」。框架的 README 承认，DeepInfer 起家于 vLLM，还吸收了 SGLang 和 TensorRT-LLM 的思路——等于把自己最压箱底的加速方案，直接摆上了台面。

喜欢的话点个赞、点个关注，我会持续更新汽车、AI、具身智能行业的最新进展，和大家一起见证物理 AI 进入真实世界！