DeepSeek 官方 X 账号发布了一组共 4 条的帖子,称公司的内部推理框架 DeepInfer 已经完全开源。按官方说法,这套框架目前正以高吞吐、低延迟的方式支撑 DeepSeek-V4.1-Flash 的大规模服务。帖子同时宣布开源 deepseek-recipe,一个与官方 API 处理逻辑对齐的 token 编码与解码组件。
DeepSeek 在第一条帖子中表示,公开这套生产技术栈,是为了帮助社区降低算力成本、减少能耗,让 AI 更便宜。帖子附有 DeepInfer 的 GitHub 仓库链接。
据 DeepSeek 在第二条帖子中的介绍,DeepInfer 包含以下几部分:
DeepSeek 还称,未来 DeepSeek 模型的推理代码和后续优化,也会放在这个仓库中发布。
第三条帖子称,DeepSeek 同时开源了 deepseek-recipe。官方将它描述为生产环境中的 token 编码与解码组件,与官方 DeepSeek API 背后的处理逻辑一致,目的是让社区部署获得与 API 相同的行为。该帖同样附有 GitHub 仓库链接。
第四条帖子写道:「Open models. Open kernels. Open inference.」(开放的模型,开放的内核,开放的推理。)DeepSeek 表示,从私有部署到公有云,将继续与社区合作,让大规模推理更高效,并邀请开发者查看代码、参与贡献、一起构建。
需要说明的是,以上内容均来自 DeepSeek 官方 X 账号的这组帖子,是发布方的自述。仓库的具体内容、许可证、支持的硬件,以及高吞吐、低延迟和降低成本的实际效果,帖子中没有给出数据。