跳到正文
硅脉动SiliconMai

月之暗面开放Kimi K3权重,采用2.8万亿参数MoE架构

模型支持100万token上下文,并附带一份对大型模型服务商设置额外义务的定制许可证;月之暗面称,其扩展效率较K2提高约2.5倍。

硅脉动
AI资料图

月之暗面将Kimi K3完整模型权重上传至Hugging Face,并同步发布技术报告和定制许可证,使这款7月16日以托管服务推出的模型在11天后进入可自行部署阶段。模型总参数为2.8万亿,每次推理激活1040亿参数,上下文窗口为100万token。

K3采用混合专家架构,共有896个专家,每个token激活16个。其93层网络中,69层使用Kimi Delta Attention,另外24层使用门控隐注意力,并原生支持视觉理解。月之暗面称,Attention Residuals和Stable LatentMoE等设计让模型相较K2获得约2.5倍的扩展效率提升;这些性能数字来自公司技术报告,仍需开发者在不同部署环境中验证。

权重开放同时带来一组不同于常见MIT许可的商业条款。许可证允许使用者复制、修改、分发、再许可和销售模型及衍生产品,但向第三方提供推理或微调访问的模型即服务商,若其与关联方连续12个月收入超过2000万美元,需要与月之暗面另行签署协议。

许可证还要求,月活超过1亿或月收入超过2000万美元的商业产品在界面显著位置标注“Kimi K3”。纯内部使用、通过月之暗面及其认证伙伴访问模型,以及把模型嵌入特定功能或只转发请求的产品,不在模型服务条款的约束范围内。这套设计保留了开发和自部署自由,同时为大规模转售推理能力设置了商业门槛。

自部署本身也有较高硬件要求。月之暗面建议使用由64个或更多加速器组成的超节点,支持vLLM、SGLang和TokenSpeed。由于Kimi Delta Attention会影响常规前缀缓存,公司为vLLM提供了专用缓存实现。技术报告还称,K3训练时保留此前的思考历史,部署系统需要完整回传先前的助手消息、推理内容和工具调用,否则输出可能不稳定。

K3的API按每百万token输入3美元、缓存输入0.3美元、输出15美元计费,全上下文窗口采用统一价格。逐token价格并不能直接等同于单项任务成本:模型默认的推理模式和实际token消耗会影响最终账单,而自行部署还需要承担集群、运维和许可审查成本。

月之暗面已公开GPQA Diamond为93.5%、BrowseComp为91.2%等测试结果,同时说明不同模型使用的智能体工具框架并不完全相同。开放权重后,外部开发者可以在统一硬件、工具链和任务设置下复测这些指标,模型的性能、成本和部署复杂度也将从API阶段的厂商口径转向更广泛的独立验证。