跳到正文
硅脉动SiliconMai

华为开源盘古7B和72B混合专家模型

盘古Pro MoE模型权重和推理代码已经上线,7B版本将随后发布;华为同时开放面向昇腾的超大规模MoE推理技术。

硅脉动
华为资料图

华为宣布开源盘古70亿参数稠密模型和盘古Pro MoE 720亿参数混合专家模型,并开放基于昇腾硬件的模型推理技术。

盘古Pro MoE 72B的模型权重和基础推理代码已经上线开源平台,超大规模MoE推理代码也同步提供。盘古7B权重与推理代码计划随后上线。

混合专家模型在每次推理时只激活部分参数,目标是在模型容量与计算成本之间取得平衡。实际效率取决于路由、显存、通信和软件优化。

同时开放权重与推理代码,有助于开发者检查、部署和改造模型。华为把昇腾推理方案一并开源,也是在扩大自身硬件和软件生态。

公告没有提供许可证细节、训练数据、基准成绩和商用限制,也没有披露7B模型的确切上线日期。开发者仍需评估兼容性与部署成本。

开源能降低采用门槛,但下载量并不等于生产使用。盘古模型后续的社区贡献、衍生版本、企业部署和问题响应,将决定它能否形成持续生态。

盘古7B适合资源较有限的部署,72B MoE则面向更高容量任务。两种规模同时开放,有助于覆盖不同硬件,但也增加版本维护工作。 社区反馈将检验文档和工具成熟度。