博客 · 分析
DeepInfer 开源了 —— DSH / V4.1-Flash 安装者该先看清什么
2026 年 10 月 20 日 · dshbase · 硬件门槛、开源缺口、以及官方 API 何时仍是正解
2026 年 10 月 20 日，@deepseek_ai 发了一条四连帖，宣布把内部推理框架 DeepInfer 全面开源，代码在 github.com/deepseek-ai/DeepInfer。官方说法很直接：驱动 DeepSeek-V4.1-Flash 大规模生产服务的同一套栈，现在开放出来，方便社区压低算力成本与能耗。
如果你是从 dshbase 过来、平时跑 npx @deepseek-ai/dsh web 的人，这篇不是「今晚就去 clone」。10 月 20 日在你已经在用的 Harness 之外，社区常说是两份开源投放：DeepInfer（推理引擎）与 deepseek-recipe（协议 / prompt / 分词编解码）。把这三层里的任何一层搞混，周末会烧掉——要么没有 Agent 循环，要么装了编解码库却指望 GPU 自己亮起来。下面先给固定的三层对照表，再写能核验的事实、硬件门槛、DeepInfer 明确没开源的厨房件，以及谁该装什么。
三层必须分清
同一品牌，三份工作。dshbase 讲的是第 1 层；10 月 20 日官宣主要是第 2、第 3 层。
| 1. DeepSeek Harness（DSH） | 2. DeepInfer | 3. deepseek-recipe | |
|---|---|---|---|
| 职责 | Agent 运行时 / Harness（dshbase 的主题） | 服务 V4.1-Flash 的生产推理引擎 | 协议、prompt、分词与编解码——Messages / Chat Completions / Responses 等 |
| 做不做推理？ | 不做——调用模型 HTTP API | 做——在 SM100 / 昇腾 950 上跑算子 | 不做——调用方必须自备推理后端、工具与 HTTP |
| 典型安装 | npx @deepseek-ai/dsh web + 官方 API Key | 源码构建（Python 3.12 + CUDA 13 或 CANN 9.2） | 库 / PyPI（deepseek-recipe 0.2.0 于 2026-10-20 上传，与 DeepInfer 线程同一天） |
| 给你什么 | 工具、插件、模式、会话审计、Agent 循环 | 在列出硬件上对 V4.1-Flash 的离线 / 私有服务 | 贴近官方行为的请求→Conversation→prompt→token ID 与响应格式化 |
| 不给你什么 | 自建 Flash 集群或分词栈 | Agent 循环、插件市场、Web UI，以及完整多租户「厨房」（KV cache / PD 分离 / LB 仍缺——见下） | 权重在跑、GPU 调度，或 DSH 插件 |
| 核验 | @deepseek-ai/dsh / Harness 文档 | deepseek-ai/DeepInfer | deepseek-ai/deepseek-recipe |
DeepInfer 官方 README：驱动 DeepSeek 大规模生产服务的高性能推理框架；本次开源提供「带规模化服务所需核心能力的离线推理」。发文时支持模型：DeepSeek-V4.1-Flash（HF deepseek-ai/DeepSeek-V4.1-Flash-1017）。deepseek-recipe 的 README 同样直白：用它把某个推理后端接到多格式 API 前端——模型推理由调用方提供。
目标若是「在 V4.1 Flash 上跑 Agent」，默认路径仍是只要第 1 层：DSH + 官方 API。为此你不需要 DeepInfer，也不需要 recipe。
独立 DeepInfer 指南：安装清单、相对 vLLM、recipe 与引擎对照 —— https://deepinfer.run/（第三方站点；与 DeepSeek 无隶属关系）。
信源链（发文时请再点开核对）
| 条目 | 链接 / 说明 |
|---|---|
| 官方 X 帖（1/4） | status/2112476496283775135 — 2026-10-20 09:30 UTC（UTC+8 17:30）。时间线短文常被截断；长文 note 收在 “make AI more affordable” 并以 “1/4” 结尾。 |
| 2/4 | Inside DeepInfer — 高性能算子与优化引擎、分布式推理与推测解码、SWA Bounded Replay 与结构化输出；后续模型推理代码也会落在此仓。 |
| 3/4 | deepseek-recipe — 与官方 API 处理逻辑对齐的生产级 Token 编解码 → github.com/deepseek-ai/deepseek-recipe。 |
| 4/4 | 收束 — “Open models. Open kernels. Open inference.” |
| 代码 | deepseek-ai/DeepInfer（Apache-2.0）。写作时核对过 README；星标/Issue 会变，引用前请重开仓库。 |
| 同窗口第二份投放 | deepseek-ai/deepseek-recipe — 只做协议/prompt/分词编解码（不是引擎）。PyPI deepseek-recipe 0.2.0 于 2026-10-20 上传。 |
同日中文转述（如 IT之家）口径一致：推理是权重与可负担服务之间的「中间层」、兼容英伟达与昇腾、并提到 recipe 配套。若转述与 README / X 原文冲突，以仓库与官方线程为准。
互动快照（标注：UTC+8）
数字每分钟都在变。我们在 2026-10-20 约 18:16（UTC+8） 用 X API 刷新了主帖（发帖后约数小时，发帖时间为当日 17:30 UTC+8）：
| 指标 | 实况（约 18:16 UTC+8） | 更早 PM 快照（发帖后数小时） |
|---|---|---|
| 曝光 | 约 11.2 万 | 约 9.7 万 |
| 赞 | 约 3.5k | 约 3.1k |
| 转发 | 约 442 | 约 410 |
| 书签 | 约 909 | 约 803 |
实况时还可见引用约 273、回复约 226。这些只是传播热度，不是产品质量。若文案必须钉一个数，请自己重查帖子，不要把 PM 快照当成永恒。
硬件与开源范围（摘自官方 README）
多数 DSH 安装者会卡在这里。README 列出的支持硬件很短：
| 支持硬件（官方） | 写明的前置条件 |
|---|---|
| NVIDIA SM100 GPU | Linux、GCC ≥ 13、Python 3.12、CUDA 13 |
| 华为 昇腾 950 NPU | 同上基线；CANN 9.2；requirements-ascend.txt / DEEPINFER_ACCELERATOR=ascend |
README 也把本次发布标成离线推理。这与社区「更偏私有化 / 机房侧」的读法一致：适合能自己补齐缺失件的产线，而不是一键替换 DeepSeek 公有多租户 API。
官方「完整推理服务还需要、但本次未包含」清单——直接跟 README，不额外发明：
| 模块 | 本次开源？ |
|---|---|
| 优化算子 / 模型与采样运行时（FlashMLA、DeepGEMM、DeepEP、TileKernels、DeepSelect、TileLang ops） | 包含（以文档为准） |
| 并行：Attention DP / balanced CP，MoE EP + EPLB | 包含 |
| DSpark + 置信度调度验证；SWA bounded replay；异步调度；batch-invariant / 确定性采样（README 注明 NVIDIA）；结构化输出 | 包含 |
离线推理示例（examples/offline_inference.py） | 包含 |
| KV cache 系统 | 未包含 |
| VE / Prefill / Decode 分离（README：引擎侧多数功能已实现，但仍把分离层列为必需且未开源） | 未包含 |
| prefill 与 decode 数据并行副本之间的负载均衡 | 未包含 |
缺的三块就是引擎外围的生产「厨房」。社区说它更偏离线，与 README 措辞一致——引用 README，不要引用传闻吞吐。
DeepSeek 在 doc/images/ 下放了 prefill / decode 的 Pareto 图，测量环境为 prefill 4 张 SM100、decode 64 张 SM100（各自在一个 scale-up 域内），复现脚本见 examples/sweep/run_sweep.sh。那是同一套 DeepInfer 引擎的两个阶段（prefill 与 decode），不是两个产品，也不能拿来顶替 deepseek-recipe。本文不把图上的 tok/s 抄进正文；要做容量规划请打开原图或自己跑 sweep。
相对 vLLM / SGLang / 继续官方 API
DeepInfer 致谢写明：最初主要基于 vLLM 构建，并受 SGLang 与 TensorRT-LLM 启发。这是血缘，不是「明天就能当通用多模型服务器」的承诺。
| 路径 | 什么时候适合 DSH 读者 | 门槛（可核验，不编造价格） |
|---|---|---|
| 官方 API + DSH | 默认。要 Agent、插件、模式和 V4.1 Flash 行为，但不想拥有 GPU。 | API Key + Token 账单。设上限——见 成本与缓存 与 「省 Token」脉搏。 |
| 自建 DeepInfer | 已有 SM100 或昇腾 950 机队，要私有/离线服 V4.1-Flash，并能自己补 KV cache、PD 分离与负载均衡。 | 硬件 + 构建（CUDA 13 / CANN 9.2）+ 上面三块缺失服务。不是笔记本项目。 |
| vLLM / SGLang（社区栈） | 模型种类更广、硬件故事更通用，或你已经在运这些栈。 | 可能落后 DeepInfer 对 Flash 的 Day-0 算子；DeepInfer 也可能落后通用多模型体验。按运维现实选，别按星标选。 |
| 只要 deepseek-recipe（+ 自有后端） | 第 3 层：自定义 API 前端必须贴近官方协议/prompt/分词。既不是 Agent 运行时，也不是引擎。 | 推理（DeepInfer / vLLM / API）、工具与 HTTP 仍由你提供——recipe 从不自己跑权重。 |
本文不编造 tok/s、$/MTok 或「比 API 便宜 N 倍」。官方营销语言是定性的（高吞吐、低延迟、降低算力成本）。容量算术请在你自己的 SKU 上跑 sweep。
重名提醒：deepinfer.org 不是这个项目
搜索引擎仍会顶出 deepinfer.org——更早的开源医学影像部署工具包（3D Slicer / Docker 模型仓库；SPIE 论文脉络）。与 DeepSeek 无关。搜索时加上 DeepSeek，或直接走 GitHub 组织路径 deepseek-ai/DeepInfer，避免装错二进制或引错论文。
DSH 读者行动清单
- 只留 DSH + API（大多数读者）：继续
npx @deepseek-ai/dsh web（或钉死的 profile）对接官方 DeepSeek API。日常 Agent 既不需要 DeepInfer，也不需要 deepseek-recipe。见 DSH 的第一天 与 模型接入。 - 只有这些人才装引擎（DeepInfer）：你跑 SM100 或昇腾 950 机房，要私有/离线服 V4.1-Flash，并能把 KV cache、PD 分离、副本 LB 当独立项目。从 deepseek-ai/DeepInfer 起步（或看 deepinfer.run 清单）；承诺切换前先读完「未包含」清单。
- 只有这些人才需要 recipe：你在搭自定义 API 前端（Messages / Chat Completions / Responses），必须贴近官方编解码 / prompt 行为。短链：deepseek-ai/deepseek-recipe（PyPI 0.2.0）。它不跑模型——自备后端（DeepInfer、vLLM、官方 API……）。
- 不要把 Prefill / Decode 图、DeepInfer、deepseek-recipe 当成三个可互换的下载包。Prefill/Decode 是 DeepInfer 内部两个阶段；recipe 是编解码层；DSH 是 Agent 运行时。
- 不要从不明确镜像下载「DeepInfer 一键包」。优先官方 GitHub 树与 Apache-2.0 LICENSE。
- 无论哪种服务路径，都要设 Token / 成本上限——工具失控在 API 上烧钱，在自建上烧集群时间。见 省 Token 笔记 与 成本指南。
- V4.1 Flash 背景：checkpoint 窗口史见 V4.1 Flash 限时内测分析；活模型名以当前 API 文档为准。
- 插件卫生：服务端新闻不降低插件风险。优先 插件中心 / 目录 里的已验证条目。
相关链接
- deepinfer.run — 独立 DeepInfer 指南（安装、相对 vLLM、recipe）。
- dshbase 首页 — 安装入口与目录导览。
- DeepSeek V4.1 Flash 限时内测分析 — 此前 Flash checkpoint 报道。
- 成本与缓存 · 为什么 X 上说 DSH「省 Token」 — 账单控制仍然适用。
- 插件 · 插件目录 — 服务端新闻刷屏时仍盯已验证包。
我们不声称的事情
- 我们不是 DeepSeek；这是给 dshbase 读者的第三方安装者笔记。
- 没有可在正文里指向的一手数字时，我们不发 MIPS、$/tok、tok/s 表（README 图在仓库里，像素留给原图）。
- 我们不建议用半成品私有栈去替换官方 API。
写作时核验的信源（2026-10-20，UTC+8）：DeepSeek X 线程 1–4；DeepInfer README（硬件、离线范围、未包含清单、致谢、基准测量说明）；deepseek-recipe README / PyPI 0.2.0 上传时间 2026-10-20；与 deepinfer.org / SPIE 医学工具包的重名核对。互动数据来自约 18:16 UTC+8 的 X API 刷新——会继续漂移。勘误：请在 dshbase 仓库开 Issue。