DeepSeek 近日在 GitHub 上开源了面向大规模场景的高性能推理框架 DeepInfer，采用 Apache-2.0 许可，仓库地址为 https://github.com/deepseek-ai/DeepInfer。该框架的发布意味着 DeepSeek 将其推理侧的部分工程能力对外公开，供开发者直接使用或二次开发。

从公开信息看，DeepInfer 覆盖了推理链路的多个层面：既包含优化 kernel、模型与 sampler 运行时，也提供了多种并行方案，包括 Attention DP、平衡 CP 以及 MoE EP + EPLB。这些组件面向的是大模型推理中常见的并行调度与专家负载均衡问题。

在调度与一致性方面，DeepInfer 支持 DSpark、置信度调度验证、SWA bounded replay、零开销异步批量调度、batch-invariant 推理、确定性采样和结构化输出。其中 batch-invariant 推理与确定性采样针对的是推理结果随批处理变化而波动的问题，结构化输出则服务于对格式有明确要求的应用场景。

对 AI 基础设施从业者而言，DeepInfer 以 Apache-2.0 许可开放，降低了在自有环境中复现和验证上述推理优化方案的门槛。其实际性能表现与适用范围，仍需结合仓库代码和后续社区反馈进一步观察。