DeepSeek 开源推理框架：走向真正普惠的未来

AI

DeepSeek 开源推理框架：走向真正普惠的未来

by root 0 Comment

大模型的能力边界由模型本身划定，但如何以合理成本提供超大规模的模型服务，还取决于一个长期未被公众了解的中间层：推理框架。

训练使模型学有所成，推理则让模型为人所用。面对如今海量的用户调用，推理框架负责统筹调度庞大的算力集群，其效率直接决定了 AI 服务的算力成本与电力消耗。

DeepSeek 长期致力于将推理性能推向极致。在此前开源一系列大模型、TileLang 编译工具及推理算子库的基础上，我们决定进一步将内部推理框架 DeepInfer 全面开源。

「为善与众行之，为巧与众能之。」我们希望通过分享内部的部署经验，帮助开发者与企业组织优化大规模推理的吞吐与延迟，从而高效构建私有化及公有云部署，降低算力成本、减少能源消耗，让智能以更低的价格触达更广泛的人群，实现真正的大模型普惠。我们也将继续支持社区进行大规模部署优化，欢迎加入我们的开源行列。

DeepInfer

基于 DeepInfer，我们已实现 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。未来，DeepSeek 新模型的推理代码及后续优化也将在此持续更新。

  • DeepInfer 推理框架：集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台。

  • deepseek-recipe 编解码组件：同步开源的生产级 Token 编解码组件，与 DeepSeek 官方 API 处理逻辑完整对齐，确保社区获得与官方部署一致的 API 体验。

开源仓库

  • DeepInfer: https://github.com/deepseek-ai/DeepInfer

  • deepseek-recipe: https://github.com/

    deepseek-ai/deepseek-recipe

复制链接进入浏览器打开或点击“阅读原文”查看 DeepSeek 知乎技术报告：https://zhuanlan.zhihu.com/p/2095560295930508953

未来展望

借助全面开源的模型、算子库与推理框架，我们期待着在不远的未来，能够看到全球 AI 服务的范围与质量获得前所未有的扩展与提升，变得更加公平、透明、可信赖，进而实现在全社会范围内加快技术迭代、减少能源浪费，让有限的资源以更高的效率在基础设施与用户终端之间流转，以每个人都能够负担的成本传递更加强大的智能，以及伴随着智能的善意和无限可能性。

DeepSeek 将与各位一同携手，为实现这样的未来图景而不懈努力。

图片

DeepInfer：DeepSeek 内部推理框架全面开源

时间：2026 年 10 月 20 日（今天），DeepSeek 官宣将内部推理框架 DeepInfer 全面开源，以 Apache 2.0 协议发布在 GitHub。

它是什么

DeepInfer 是 DeepSeek 自研的高性能推理引擎，也是支撑其大规模生产服务的那套「中间层」。模型的能力由模型本身划定，而如何以合理成本提供超大规模服务，恰恰取决于这一层——它负责统筹调度庞大的算力集群，直接决定 AI 服务的算力成本与电力消耗。此前 DeepSeek 已陆续开源了大模型、TileLang 编译工具和推理算子库，本次是把最后一块「推理框架」补齐。

核心能力

  • 高性能算子 + 深度优化的推理引擎
  • 分布式推理
  • 推测解码（Speculative Decoding），社区实测中体现为 DSpark 等方案
  • SWA Bounded Replay（滑动窗口注意力有界重放）
  • 结构化输出（regex / JSON / EBNF）
  • batch-invariant 推理、确定性采样等保证可复现性的机制
  • 硬件兼容：开箱支持 NVIDIA SM100（Blackwell）GPU 与 华为昇腾 950 NPU

技术上，据社区复盘，DeepInfer 最初脱胎于开源的 vLLM，但已经做了自底向上的重构——核心调度逻辑、数据预处理管线、采样计算模块全部用 C++ 重写，与原始 vLLM 架构的残留相似度已很低。vLLM 团队也公开感谢了这次开源。

开源边界（要注意的限定）

这次的开源是有节制的，不是完整生产栈：

  • 只针对单一模型 DeepSeek-V4.1-Flash（就是 9 月 10 日发布的新模型结构系列里的最小尺寸、原生多模态模型），不支持其他模型
  • 只覆盖离线（offline）推理负载
  • 未包含关键的生产在线能力：KV cache 分布式存储、prefill-decode 分离（PD disaggregation）、跨节点负载均衡、在线服务系统。这些仍留在内部

配套组件：deepseek-recipe

同步开源了生产级 Token 编解码组件 deepseek-recipe，与 DeepSeek 官方 API 的处理逻辑完整对齐，目的是让社区部署能拿到和官方一致的 API 行为体验。

目的与影响

DeepSeek 的官方表述是：帮助开发者和企业优化大规模推理的吞吐与延迟，高效构建私有化及公有云部署，降低算力成本、减少能源消耗，让智能以更低的成本触达更多人，实现”大模型普惠”。未来新模型的推理代码和后续优化也会持续更新到这里。

从产业角度看，这次开源把竞争逻辑往前推了一步——推理成本竞争力不再只靠部署阶段的后优化，训练阶段的结构化设计开始成为长期成本壁垒的核心。