Hugging Face联合创始人Thomas Wolf于2026年11月4日梳理了Moonshot的Kimi K3.1 Pro:总参数量为2.8万亿,每个词元激活1040亿参数,896个专家中每词元选择16个。这是他对模型配置的技术解读,性能讨论来自厂商模型卡。

这组数字把总规模与每次计算涉及的参数量区分开来,也构成Wolf解读的重点。不过,要判断这样的模型能否经济地服务长任务,还需要看存储之外的运行条件。

Moonshot模型卡列出的注意力层组成为69层KDA与24层Gated DSA,上下文长度为1,048,576个词元。模型采用量化感知训练,权重为MXFP4、激活为MXFP8。上述规格说明了它如何组合不同注意力机制与低精度计算,但没有直接回答长上下文下的任务质量、延迟和成本。

Wolf估算,模型仓库约为1.56 TB;若以常规BF16存储,体积约为5.6 TB。这两个数字描述的是存储体积,不能当作运行所需的显存。

SGLang推理引擎的部署文档给出了更具体的运行约束:需要使用kimi-k31-pro专用分支,并参照专用Dockerfile准备依赖。文档指出,保存请求状态和上下文的缓存会占用运行内存,影响同时处理请求的容量;具体占用取决于并行配置。

工程适配也已有阶段性测量。SGLang将GB300长上下文调优结果标为2026年11月3日的阶段快照,测试将DFlash推测解码中每轮接受的草稿长度固定为预期值;聚合部署在并发为1时未达到首词元延迟目标,其余七个测量点达到目标。这支持在相应条件下讨论部署表现,尚不足以推导跨硬件、跨任务的成本优势。

能力比较也需要按任务看。Wolf依据模型卡认为,Kimi K3.1 Pro在部分工具任务上突出,无工具纯推理及网络安全方面相对较弱。Moonshot说明,其Terminal-Bench 4.0成绩使用Claude Code框架,对比成绩则汇集其他模型发布博客及官方榜单报告的结果,其中部分取报告的最高值。因此,这张表不能被理解为所有模型在统一条件下的全面比较。

对准备采用该模型的团队而言,值得检验的是稀疏激活、长上下文和低精度权重能否共同改善自己的工作流。现有材料提供了配置依据和部分工程测量;实际取舍仍取决于任务质量,以及目标硬件和并发负载下的延迟、缓存占用与总成本。

参考来源: