首页 > 教程资讯 > 教程详情

DeepSeek 开源内部推理框架 DeepInfer,称其已支撑 V4.1-Flash 大规模服务

AI 与前沿 极客小林 2026-10-21
文章分享

DeepSeek 官方 X 账号发布了一组共 4 条的帖子,称公司的内部推理框架 DeepInfer 已经完全开源。按官方说法,这套框架目前正以高吞吐、低延迟的方式支撑 DeepSeek-V4.1-Flash 的大规模服务。帖子同时宣布开源 deepseek-recipe,一个与官方 API 处理逻辑对齐的 token 编码与解码组件。

公开生产环境技术栈的目的

DeepSeek 在第一条帖子中表示,公开这套生产技术栈,是为了帮助社区降低算力成本、减少能耗,让 AI 更便宜。帖子附有 DeepInfer 的 GitHub 仓库链接。

DeepInfer 包含哪些能力

据 DeepSeek 在第二条帖子中的介绍,DeepInfer 包含以下几部分:

  • 高性能内核与优化过的推理引擎
  • 分布式推理与投机解码(speculative decoding)
  • SWA Bounded Replay 与结构化输出

DeepSeek 还称,未来 DeepSeek 模型的推理代码和后续优化,也会放在这个仓库中发布。

同步开源 deepseek-recipe

第三条帖子称,DeepSeek 同时开源了 deepseek-recipe。官方将它描述为生产环境中的 token 编码与解码组件,与官方 DeepSeek API 背后的处理逻辑一致,目的是让社区部署获得与 API 相同的行为。该帖同样附有 GitHub 仓库链接。

官方表态与待核实之处

第四条帖子写道:「Open models. Open kernels. Open inference.」(开放的模型,开放的内核,开放的推理。)DeepSeek 表示,从私有部署到公有云,将继续与社区合作,让大规模推理更高效,并邀请开发者查看代码、参与贡献、一起构建。

需要说明的是,以上内容均来自 DeepSeek 官方 X 账号的这组帖子,是发布方的自述。仓库的具体内容、许可证、支持的硬件,以及高吞吐、低延迟和降低成本的实际效果,帖子中没有给出数据。

来源