3月18日凌晨，英伟达GTC 2026大会上，月之暗面创始人杨植麟作为本届唯一受邀现场演讲的中国独立大模型公司创始人，发表了题为《How We Scaled Kimi K2.5》的演讲，首次系统披露Kimi K2.5背后的完整技术路线图。 与杨植麟同列席的嘉宾包括特斯拉AI总监Ashok Elluswamy、DeepMind核心架构师及斯坦福顶尖学者。被黄仁勋选为GTC嘉宾历来被视为英伟达对未来技术趋势的押注信号，而这一次，焦点落在了"如何让算力转化为真正的智能"这个命题上。
三个维度的共振：Kimi的新Scaling逻辑
杨植麟在演讲中将Kimi K2.5的进化逻辑概括为三个维度的"共振"——Token效率、长上下文和智能体集群（Agent Swarms）。
他明确指出，当前的Scaling已经不再是单纯的资源堆砌。行业普遍使用的很多底层技术标准，本质上是八九年前的产物，正逐渐成为模型扩展的瓶颈。围绕这一判断，Kimi团队选择从优化器、注意力机制和残差连接三个最基础的模块入手，逐一重构，并全部开源。
杨植麟认为，如果能将这三个维度的技术增益"相乘"而非"相加"，模型将表现出远超现有水平的智能。
第一刀：MuonClip优化器——Token效率提升2倍
Kimi路线图的第一个重点落在训练效率上。
杨植麟指出，自2014年以来，Adam优化器一直是行业默认选择，但在超大规模训练中已显疲态。Kimi团队验证了Muon优化器在Token效率上的显著优势——在相近的计算预算下，可以将训练Token以约2倍的效率转化为模型能力。
但问题在于，当Muon扩展到万亿参数规模的K2模型训练时，团队遭遇了严重的稳定性问题：训练中出现Logits爆炸，最大值迅速超过1000，导致模型发散。
针对这一问题，Kimi团队提出了MuonClip优化器，通过Newton-Schulz迭代结合QK-Clip机制对数值进行约束。在实际训练中，K2的max logits被控制在100以内并逐步回落，模型loss未受负面影响，实现了稳定训练。
此外，团队还设计了"分布式Muon"（Distributed Muon），将优化器状态分布在数据并行组中，在需要时再聚合梯度完成计算，以提升大规模GPU集群中的内存效率和训练效率。
第二刀：Kimi Linear——128K到1M解码速度提升5-6倍
长上下文是路线图的第二条主线。
杨植麟重点介绍了Kimi Linear，这是一套基于KDA（Kimi Delta Attention，Kimi增量注意力）的混合线性注意力架构。其核心思路是重新安排注意力层的组成方式，而非默认所有层都使用全注意力。
具体来看，Kimi Linear采用约3:1的KDA与全局注意力混合比例，在降低内存开销的同时保持模型表达能力。杨植麟表示，该架构已完成1.4T token规模训练，在长上下文、短上下文以及强化学习任务中均优于全注意力方案。
最直观的变化体现在推理效率上：在128K到1M上下文范围内，解码速度可提升约5-6倍，同时在不同长度场景下保持稳定表现。
这一改进解决了长期存在的实际问题——上下文窗口不断扩大，但推理成本和延迟同步上升，导致长任务能力难以真正落地。Kimi Linear将长上下文从"可支持的能力"转变为"可高效使用的能力"。
第三刀：注意力残差——重写十年未动的残差连接
这是此次技术路线图中引发讨论最热烈的部分。
就在演讲两天前（3月16日），月之暗面发布了关于注意力残差（Attention Residuals，AttnRes）的最新论文。这篇论文的核心，是对深度网络中已沿用约十年的残差连接进行重新设计。
这一进展迅速引爆海外AI圈。马斯克在社交平台上评价该工作"令人印象深刻"；前OpenAI研究副总裁、联合创始人Andrej Karpathy则直言，人们对Transformer开山论文《Attention is All You Need》的理解可能还不够充分。
杨植麟在演讲中解释了背后的技术逻辑：传统残差连接采用固定加法累加方式，随着网络加深，隐藏状态会持续增长，深层信息容易被稀释。Kimi团队的做法是将残差路径替换为基于Softmax注意力的动态聚合，使模型可以根据输入内容有选择地从前序层获取信息，让信息流从"逐层叠加"转向"按需读取"。
杨植麟还延伸了前OpenAI首席科学家Ilya Sutskever在NeurIPS 2024的思路：如果将残差连接视为沿深度展开的简化LSTM，那么Attention可以理解为对这条信息通道的进一步扩展。相关代码与技术报告已全部开源。
跨模态增益：视觉强化学习反哺文本能力
除了架构层面的三把刀，杨植麟还分享了一个颇具启发性的观察。
在原生视觉-文本联合预训练过程中，引入视觉强化学习（Vision RL）后，模型不仅在视觉任务上表现提升，还会反向提升纯文本能力。消融实验显示，经过视觉RL训练后，模型在MMLU-Pro和GPQA-Diamond等文本基准上的表现提升约1.7%-2.2%。
杨植麟认为，这表明空间推理与视觉逻辑能力可以转化为更深层的通用认知能力，多模态训练的价值正在从"扩展输入形式"转向"提升底层推理能力"。他还透露，Kimi团队正在推进"首个原生联合视觉-文本能力的开放模型"。
Agent Swarms：从单兵作战到集群协作
演讲最后一部分，杨植麟将重点落在了当下最热的方向——智能体集群。
Kimi K2.5引入了Orchestrator（编排器）机制，能够根据任务需求动态创建多个子Agent，并将复杂任务拆解为并行子任务执行。这些子Agent可以承担不同角色——AI研究员、物理研究员、事实核查员等——通过分工协作完成整体任务。
杨植麟特别指出了多Agent系统的一个常见陷阱——"串行塌缩"，即表面上是多Agent系统，实际退回了单Agent串行执行。为此，Kimi设计了三类并行强化学习奖励机制：实例化奖励（Instantiation reward）、完成奖励（Finish reward）和结果奖励（Outcome reward），专门用于引导模型真正进行任务拆解和并行执行。
实验数据显示，随着任务复杂度提升，智能体集群相比单Agent的效率优势持续扩大，执行时间可获得数倍缩短。
行业坐标：与腾讯"龙虾"战略形成呼应
值得注意的是，就在同一天（3月18日），腾讯在2025年业绩沟通会上，马化腾首次公开系统阐述了"龙虾"（OpenClaw）AI Agent战略，宣布微信生态将全面拥抱智能体方向，每个小程序都可以"龙虾化"。
两条消息在同一天释出，恰好构成了AI Agent赛道的两个视角：月之暗面从模型底层出发，用Agent Swarms定义了智能体如何在技术层面实现真正的并行协作；腾讯则从应用生态入手，用微信+小程序定义了智能体如何在14亿用户的平台上落地。
这也呼应了杨植麟在总结中提到的判断——行业正在经历从"暴力堆算力"到"精密用算力"的范式转换，Adam优化器诞生超过11年、Attention提出超过8年、残差连接沿用约10年，Kimi选择逐一重写并全部开源，给出了一张属于下一阶段的Scaling施工图。
对于目前Kimi K2.5已在Hugging Face位居榜首、在HLE-Full和BrowseComp等测试集中超越GPT-5.2和Claude 4.5 Opus等闭源模型的月之暗面来说，这张路线图既是技术宣言，也是对接下来K3方向的重要预告。 ChooseAI点评： 杨植麟这次GTC演讲的核心信息其实只有一句话——Scaling的瓶颈不在算力本身，而在"八九年前定义的那些默认选项"。无论是用了11年的Adam、8年的Full Attention还是10年的Residual Connection，Kimi的策略都是回到最底层、逐个替换、然后开源。这种"从地基开始重建"的技术路径，在当前Agent、龙虾、全场景应用爆发的行业背景下，恰好为上层应用提供了更高效的底层引擎。结合腾讯同日官宣的微信Agent战略，以及LlamaParse等工具在文档AI领域的持续进化，3月18日很可能成为2026年AI行业的一个重要节点——底层模型效率、应用生态落地和工具基础设施三条线同时加速。
AI 速览
