首页 > 教程资讯 > 教程详情

月之暗面开源 Kimi K3.1 Pro:2.8T 参数 MoE,上下文长度 100 万 token

AI 与前沿 老K说软件 2026-11-05
文章分享

月之暗面(Moonshot AI)在 Hugging Face 上发布了 Kimi K3.1 Pro 的模型页。官方称,这是一款开源权重、原生多模态的 agent 模型,也是其迄今能力最强的 3T 级模型。它由 Kimi K3 经覆盖数百个下游领域的大规模联合强化学习后训练而成,是 K3.1 系列的第一款。官方称它在编程、3D 创作、金融研究、事实准确性等 agent 能力上有明显提升。

模型规格

据模型卡,K3.1 Pro 采用混合专家(MoE)架构,主要参数如下:

  • 规模:总参数 2.8T,激活参数 104B,共 93 层。
  • 专家配置:共 896 个专家,每个 token 选 16 个,另有 2 个共享专家。
  • 上下文与词表:上下文长度 1048576 token,词表 160K。
  • 多模态:视觉编码器为 MoonViT-V2,参数 401M,支持文本和图像输入。
  • 量化:MXFP4 权重 / MXFP8 激活,采用量化感知训练。

与 Kimi K3 相比,K3.1 Pro 把全注意力的 Gated MLA 层换成了 Gated DeepSeek Sparse Attention(Gated DSA)层,官方称这样可以让长上下文建模更高效。注意力层的组成为 69 层 KDA + 24 层 Gated DSA。

基准成绩

以下数据均来自发布方模型卡,其中 Claude Opus 5.5 的 Terminal-Bench 4.0 成绩取自模型博客或官方榜单所报告的最高值。K3.1 Pro 的结果默认使用 max 思考强度。

  • GPQA-Diamond:94.2。
  • Terminal-Bench 4.0:65.7。同表中 Claude Opus 5.5 为 66.4,高于 K3.1 Pro。
  • DeepSWE v1.1:75.5。

模型卡注明,Terminal-Bench 4.0、Terminal-Bench-Science 0.1、SWE-Marathon v1.1、ProgramBench、DeepSWE v1.1 等多项编程基准,是用 Claude Code 框架评测的。Kimi Code Bench 2.0 和 3.0 属于内部基准。

调用与部署

开发者可在 platform.kimi.ai 选择 kimi-k3.1-pro 调用,官方提供 OpenAI / Anthropic 兼容 API。思考强度通过顶层的 reasoning_effort 字段设置,可选 low、high、max,默认为 max。

多轮对话和工具调用时,模型要求把 API 返回的完整助手消息原样传回 messages,包括 reasoning_content 和 tool_calls,不能只传 content。

官方推荐的推理引擎为 vLLM、SGLang 和 TokenSpeed。模型采用 Kimi K3.1 Pro License 许可证。

来源