华为盘古718B模型最新成绩：开源第二

十三
2025-09-29
13:00:22

来源：量子位

金磊 发自 凹非寺

量子位 | 公众号 QbitAI

高手如云，高手如云，但华为依旧“杀”出了一片天。

就在最新一期的SuperCLUE中文大模型通用基准测评中，各个AI大模型玩家的成绩新鲜出炉。

从大家最为关心的开源、国产两个维度来看，前三名排名分别为：

1. DeepSeek-V3.1-Terminus-Thinking
2. openPangu-Ultra-MoE-718B
3. Qwen3-235B-A22B-Thinking-2507

（注：SuperCLUE是一个综合性的大模型评测基准，本次通过对数学推理、科学推理、代码生成、智能体Agent、幻觉控制、精确指令遵循六个维度的核心能力进行评估，共计1260道题目。）

那么华为这个拥有7180亿参数体量的MoE大模型，究竟凭什么脱颖而出？

在我们与openPangu核心成员深入交流之后，发现他们的训练哲学并非是大力出奇迹，与之恰恰相反——

不靠堆数据，靠会思考。

这又是什么意思呢？接下来，我们就来一同细看。

数量给质量让路

我们都知道，训练数据的质量直接影响大模型的最终能力。

因此，openPangu团队在后训练数据构建中遵循了三个核心原则：质量优先、多样性覆盖、复杂度适配。

并且为此建立了一套覆盖“数据生成-科学筛选-精准增强”的全流程方案。

△通用后训练数据构建框架

• 质量优先：团队建立了指令数据质量评估体系，结合规则、模型和人工三重审核机制，以确保低质量样本的有效清理。
• 多样性覆盖：从领域和任务类型两个维度进行设计，并通过去重和压缩选样算法，在保证数据覆盖广度的同时避免冗余。
• 复杂度适配：为避免模型仅在简单任务上过拟合，团队通过推理步骤、概念抽象度、计算复杂度等指标对任务难度进行量化，并利用自迭代拒绝采样策略，重点进行中高难度任务的训练。

这种对数据质量的严格把控，正是提升模型在复杂场景下推理能力的关键因素之一。

三阶段预训练策略

除了数据质量之外，模型的基础能力与预训练阶段是息息相关。

整体来看，团队将openPangu-718B的预训练过程被设计为三个阶段：通用（General）、推理（Reasoning）和退火（Annealing）。

首先是通用阶段，这个阶段的目标是为模型构建广泛的世界知识。模型通过学习大规模的文本和代码数据，形成对世界的基本认知。

其次是推理阶段，专注于提升模型的逻辑推理能力。团队显著增加了泛数学、STEM（科学、技术、工程和数学）及代码数据的训练比重，并重点引入了高难度的多步骤推理题库。

为提升多步推理的准确性并减少幻觉，团队为这部分数据制作了详细的思维链（CoT），以引导模型学习解决问题的逻辑路径。

最后是退火阶段，此阶段旨在增强模型应用知识和推理技能的能力。训练文本的上下文长度被阶梯式地提升至8K、32K和128K，同时增加了指令类数据的占比。

此外，该阶段还引入了多种Agent类型的数据，为模型学习使用外部工具（Tool-use）建立基础。

缓解幻觉有妙招

幻觉可以说是大型语言模型普遍面临的一大挑战，为缓解这个此问题，团队引入了“批判内化”（Critique Internalization）机制。

这个机制的核心思想是，不仅让模型学习正确的示范（传统SFT模式），更要让模型学习如何评判一个解答的优劣。

不同于传统的批判微调（CFT）只依赖固定的人类反馈数据来训练模型， 批判内化策略在初始模型训练完成后，利用拒绝采样阶段引入额外的自我批判信号，引导模型在生成答案时基于不同任务的行为准则Guideline，主动审视自己的推理过程。

通过这种训练，模型能够将批判性思维融入自身推理过程。在生成回答时，它能更好地审视自身的逻辑链条，检查是否存在逻辑跳跃、信息遗漏或偏离指令等问题。

实验结果表明，该机制有效缓解了模型幻觉，并提升了指令遵从性和价值观对齐的表现。同时，这种针对性的反思也使得模型的输出更为精炼和可靠。

Agent能力也进化了

为了提升模型使用工具的能力，团队采用了升级版的工具数据合成框架——ToolACE。

这个框架通过一系列关键技术，生成了大量高质量、高复杂度的多轮多工具调用数据用于训练。

• 领域工具组合：将现实场景中相互关联的工具（如日历查询和航班预订）进行组合，并提供工具依赖图和领域规则，使模型学习在复杂任务中如何协同使用多个工具。
• 交互式目标轨迹生成：采用“计划-执行”分离策略，先由AI规划出解决任务的工具调用序列，再通过与模拟环境的交互执行该序列，生成完整的工具使用轨迹。
• 多智能体对话生成：利用多个AI智能体模拟用户与助手的互动，将工具调用过程转化为自然的对话脚本，并引入随机打断、反问澄清等复杂交互情况，以提升数据的真实性。
• 多维校验与错例迭代：对生成的数据进行多维度质量检查，包括内容满足度、状态变化正确性、工具调用效率等。低分数据将被分析错误原因，并用于迭代优化生成策略。

通过这套系统，openPangu-718B学习在复杂的多轮交互中准确、灵活地调用工具。

三步式后训练优化方案

在完成数据构建和核心能力训练后，openPangu团队还经过了一个“三步走”的后训练微调方案，进行了最终的性能优化。

第一步：渐进动态微调 (PDFT)

为避免模型在指令微调（SFT）阶段对训练数据产生过拟合，团队采用了渐进动态微调（Progressive Dynamic Fine-Tuning, PDFT）。该方法让模型的学习模式从常规SFT平滑过渡到动态微调（DFT）。

训练初期，模型以常规SFT模式充分学习；后期则逐步增加DFT权重，使模型更关注尚未充分掌握的知识点，从而在欠拟合与过拟合之间取得平衡。

第二步：强化学习 (RL) 微调

考虑到openPangu-718B这类混合专家（MoE）模型的训练稳定性要求较高，团队采用了GSPO（Group Sequence Policy Optimization）算法进行强化学习。

与GRPO算法相比，GSPO在训练大型MoE模型时表现出更好的稳定性，有助于模型性能的持续提升，避免了训练过程中的性能衰退。

第三步：模型融合 (Model Merging)

在不同训练阶段，会产出在特定领域各有优势的多个模型版本。为整合这些模型的优点，团队采用了一种黑盒优化的模型融合方法。

通过构建一个覆盖广泛任务的测评集，使用优化算法自动搜索各候选模型的最佳融合权重，最终生成一个综合性能更强的模型。

总结来看，openPangu-718B的优异表现，源于其在预训练、数据构建、幻觉控制、工具学习及后训练优化等环节系统性的技术创新。

从三阶段预训练奠定基础，到通过“批判内化”机制提升可靠性，再到利用ToolACE框架拓展Agent能力，最后通过三步式后训练方案进行精细打磨，每一步都反映了其背后的技术策略。

与此同时，openPangu团队也为行业提供了一个极具价值的范本：真正的竞争力，来自于对技术细节的极致打磨和对核心问题的深刻洞察。

参考链接：
[1] https://ai.gitcode.com/ascend-tribe/openpangu-ultra-moe-718b-model
[2] https://arxiv.org/abs/2501.17703
[3] http://arxiv.org/abs/2409.00920
[4] http://arxiv.org/abs/2508.12685
[5] https://arxiv.org/abs/2508.05629
[6] https://arxiv.org/pdf/2507.18071
[7] https://arxiv.org/abs/2402.03300

Read More