DeepSeek 开源生产推理框架 DeepInfer
先了解这件事
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，并同步开源生产级 Token 编解码组件 deepseek-recipe。
摘自 公众号：DeepSeek
事件进展
3 个进展
- 10月24日 00:00 · 1 篇报道SGLang集成DeepInfer优化并对比性能LMSYS Blog：SGLang 对比 DeepInfer：DeepSeek-V4.1-Flash 推理性能实测与完整服务能力
- 10月23日 08:00 · 1 篇报道vLLM团队分享DeepSeek-V4.1-Flash大规模服务性能优化研究vLLM 官方博客：vLLM 在 GB300 NVL72 上规模化服务 DeepSeek-V4.1-Flash，解码吞吐与 DeepInfer 差距在 6% 以内
- 10月20日 16:54 · 9 篇报道DeepSeek开源推理框架DeepInfer公众号：DeepSeek：DeepSeek 全面开源内部推理框架 DeepInfer
报道时间线
沿着报道，了解事件的不同侧面。
- LMSYS BlogSGLang 对比 DeepInfer：DeepSeek-V4.1-Flash 推理性能实测与完整服务能力
SGLang 用 DeepInfer 官方 benchmark 在相同硬件上对比测试 DeepSeek-V4.1-Flash，4x GB300 和 4x B300 上 prefill 吞吐最高达 1.04x，64x GB300 上 decode 步长缩短 1.1% 至 7.4%。
- vLLM 官方博客vLLM 在 GB300 NVL72 上规模化服务 DeepSeek-V4.1-Flash，解码吞吐与 DeepInfer 差距在 6% 以内
vLLM 用 P/D 分离与 Wide-EP 在单台 NVIDIA GB300 NVL72 上服务 DeepSeek-V4.1-Flash，在 SemiAnalysis AgentX 上达到每 GPU 954K tokens/s、单用户 P90 196 tokens/s，为早期单节点结果的 7.9 倍。
- X.PINDeepSeek 开源内部推理框架 DeepInfer
DeepSeek 宣布将内部推理框架 DeepInfer 完全开源，代码位于 github.com/deepseek-ai/DeepInfer。
- The Decoder：AI NewsDeepSeek 开源推理框架 DeepInfer，采用 Apache License 2.0
DeepSeek 在 X 上宣布以 Apache License 2.0 开源内部推理框架 DeepInfer，该框架支撑其 V4.1-Flash 模型的大规模快速推理。
- MarkTechPostDeepSeek 开源 DeepInfer 推理框架，支撑 DeepSeek-V4.1-Flash 生产服务
DeepSeek 以 Apache 2.0 许可证开源了支撑其生产服务的 DeepInfer 推理框架，并另以 MIT 许可证发布词元编解码层 deepseek-recipe。
- Tianyi Cui精选DeepSeek 开源自研推理框架 DeepInfer
DeepSeek 开源自研推理框架 DeepInfer，以及 deepseek-recipe 等服务 DeepSeek 模型的关键组件，代码位于 github.com/deepseek-ai/DeepInfer。DeepInfer 已用于大规模支撑 DeepSeek-V4.1-Flash 的高吞吐低延迟推理，官方希望帮助更多企业和机构部署 DeepSeek 模型并从中获利。
- Rohan PaulDeepSeek 以 Apache 2.0 开源生产推理引擎 DeepInfer
DeepSeek 以 Apache 2.0 许可开源了支撑其生产服务的推理引擎 DeepInfer，8 小时获得 6.3K+ stars。
- DeepSeekDeepSeek 开源自研推理框架 DeepInfer
DeepSeek 宣布其自研推理框架 DeepInfer 完全开源，代码托管在 http://github.com/deepseek-ai/DeepInfer。该框架以高吞吐、低延迟支撑 DeepSeek-V4.1-Flash 的大规模推理，官方称开放生产技术栈旨在帮助社区降低算力成本与能耗。
- Tianyi Cui精选DeepSeek 以 Apache-2.0 开源大规模推理框架 DeepInfer
DeepSeek 开源高性能大规模推理框架 DeepInfer，采用 Apache-2.0 许可，仓库地址 https://github.com/deepseek-ai/DeepInfer。支持优化 kernel、模型与 sampler 运行时，Attention DP、平衡 CP、MoE EP + EPLB 等并行方案，以及 DSpark、置信度调度验证、SWA bounded replay、零开销异步批量调度、batch-invariant 推理、确定性采样和结构化输出。
- IT之家·人工智能DeepSeek 将内部推理框架 DeepInfer 全面开源
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，此前已开源大模型、TileLang 编译工具及推理算子库。DeepInfer 集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台，已支撑 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。
- 公众号：DeepSeek精选DeepSeek 全面开源内部推理框架 DeepInfer
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，并同步开源生产级 Token 编解码组件 deepseek-recipe。
本事件热度走势
- 可比范围当前
- 26
- 可比范围峰值
- 10810月23日 05:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。