8月12日消息,英伟达在 Nemotron 模型产品线上同日放出两个动作。官方发布面向长时间运行 Agent 任务的轻量模型 Nemotron 3.5 Lightning,并同步推出开源模型路由库 NeMo Switchyard;同一天,据 The Information 援引多名参与项目员工的消息,英伟达正在开发 Nemotron 4 旗舰,预计至少 1 万亿参数、约为现有旗舰 Nemotron 3 Ultra 的两倍,目前官方未确认。一条线已经落地,另一条线仍停留在报道层面。合在一起看,这是英伟达"轻量执行层 + 前沿旗舰"双线并进的公开信号。
Nemotron 3.5 Lightning:轻量执行层落地
Nemotron 3.5 Lightning 是 Nemotron 3.5 系列的首款模型,采用 30B 参数的混合专家(MoE)架构,每 token 激活约 3B,上下文窗口 100 万 token,从英伟达前沿模型 Nemotron 3 Ultra 蒸馏而来。英伟达官方博客将其定位为大型多 Agent 系统中专门任务的执行者,这类任务包括代码审查、工具使用、安全警报监控与账单问答,面向 always-on 的 Agent 工作负载。
性能方面,官方给出的两组数字构成卖点。输出速度最高为同级模型的 4 倍,Agent 任务整体完成快约 30%;PinchBench 评测准确率约 86%,属于同级模型的前沿水平,该数字为第三方评测口径。由于模型开放且可定制,开发者可以用 NeMo 在自有领域数据、工具与工作流上做后训练。
模型采用 OpenMDW-1.1 许可,开放权重、数据集与训练配方,允许商业使用,可部署在 NVIDIA RTX PC、DGX Spark、DGX Station 与 Jetson 等本地设备上。同场发布的 NeMo Switchyard 是开源路由库,企业可在自己的模型组合中按能力与成本把请求路由给最合适的模型。英伟达称,模型开发得到 Nemotron 联盟成员在评测方法、推理软件与数据集上的贡献,并正在 CrowdStrike、Harvey、CodeRabbit 等企业的网络安全、法律与代码审查工作负载上定制使用。模型已上线 Hugging Face、ModelScope、OpenRouter 与 NIM 微服务等渠道。 Nemotron 4:据称万亿旗舰,官方未确认
The Information 的报道包含三项可分离的主张。其一是规模:Nemotron 4 旗舰预计至少 1 万亿参数,大约是 Nemotron 3 Ultra 的两倍。其二是状态:最终训练尚未完成。其三是时间:发布时间未定,员工称最早可能在今年秋末准备就绪。报道援引了多名参与该项目的员工,这些消息提供者未具名。
英伟达未确认这一规模与时间表,仅重申此前已表态正在开发 Nemotron 4。生成式 AI 副总裁 Kari Briski 在回应中表示,英伟达投资 Nemotron,是因为相信每家公司和每个国家都需要可获取的前沿开源模型,以加强安全、加速创新。这一表态确认了开源路线,但没有回应参数规模与发布时间。
公开支点方面,Nemotron 3 Ultra 于6月4日开源,总参数 5500 亿、激活参数 550 亿,是英伟达迄今发布的美国开源权重模型中规模最大的一款。1 万亿参数约等于它的两倍,与爆料口径吻合;从 340B 参数的 Nemotron-4 系列到 550B 的 3 Ultra,规模递进的方向也与英伟达过去一年的开源节奏一致。但规模递进逻辑相容,不等于 1 万亿已经确认:Nemotron 4 可能是系列代号而非单一型号,员工对未完成项目的估计也可能存在偏差。官方没有披露参数、训练进度或时间表,"秋末准备就绪"的说法目前无法独立验证,即使按爆料推进,准备就绪也不同于正式发布。
对比:执行层与旗舰,同一天的两条线
两条线面向不同层级,但同属一个产品族。Nemotron 3.5 Lightning 面向高频专门任务,参数轻、激活少,强调速度与可定制;Nemotron 4 据称面向旗舰规模,参数约为现有旗舰的两倍。阶段差异同样明显:3.5 Lightning 已经发布上线,开发者今天就能在 Hugging Face、NIM 等渠道使用;Nemotron 4 最终训练尚未完成,发布时间未定,其存在本身仍以员工消息为依据。
路径上,轻量模型走开放权重、本地部署与后训练定制;旗舰则延续英伟达开源前沿模型的路线,但规模、成本与可用性都还没有官方数据。可用性上两者差距最大:3.5 Lightning 今天就能在多家平台与本地设备上运行,Nemotron 4 没有任何可用渠道,连参数与训练进度都没有官方数字。
两条线的共同限制也清楚:轻量模型的性能数字是官方与评测口径,旗舰的规模与时间表未获确认,都需要后续验证。
系统 of models:两条线的共同指向
两条线指向同一套英伟达官方论述:面向 always-on 的 Agent,规划与编排交给前沿模型,高频专门任务交给轻量模型。3.5 Lightning 是这套"系统 of models"架构中执行层的落地,Nemotron 4 则据称是旗舰侧的在途变量。落实到多 Agent 系统的搭建上:执行层今天已经可选可用;旗舰一侧仍无官方数据,这条产品线的上限暂时没有公开锚点。
两条线各自都有已发生的事实支撑:3.5 Lightning 已经官方发布并上线多渠道,英伟达的执行层从规划落到产品;Nemotron 4 经 The Information 援引多名项目员工报道正在开发,旗舰侧有了进度信号。目前两者都缺独立确认:3.5 Lightning 的性能数字还没有第三方实测复核,Nemotron 4 的规模与时间表仍未获官方确认。若旗舰爆料最终成真,英伟达的模型产品线将同时覆盖万亿级旗舰与轻量执行层,那将是两条线第一次同时公开完整。