3月,英伟达突然发布并开源新一代大语言模型Nemotron 3 Super,专为Agentic AI(智能体)场景打造。该模型以“120B总参数+仅激活12B活跃参数”的混合架构为核心,原生支持100万token超长上下文窗口,一举解决了多智能体系统面临的“上下文爆炸”与“思考税”两大核心痛点,实现5倍以上推理吞吐量提升与2倍复杂场景准确率提升,成为开源领域性价比顶尖的智能体专用模型。
一、核心突破:直击智能体两大致命痛点
当前多智能体系统(如软件开发助手、安全编排工具、复杂研究代理等)在实际应用中面临难以逾越的瓶颈,而Nemotron 3 Super通过硬核技术革新实现精准破局:
1.解决“上下文爆炸”:原生1M token超长记忆
复杂智能体任务往往需要处理几十万甚至上百万token的历史对话、工具调用记录、代码仓库、日志等数据,传统Transformer模型在64K~128K上下文规模就会出现性能崩溃,1M上下文几乎无法实现。
Nemotron 3 Super原生支持100万token上下文窗口,相当于为智能体配备了“长期记忆”,能够完整留存多轮复杂任务的关键信息,避免因上下文截断导致的任务中断或逻辑混乱,彻底适配长周期、高信息密度的智能体应用场景。
2.破解“思考税”:激活12B参数实现120B级性能
“思考税”指智能体每个推理步骤都需完整运行百亿级参数模型,导致算力消耗巨大、延迟高、成本飙升——复杂“Agent循环”动辄几十上百次调用,让普通用户和企业难以承受。
Nemotron 3 Super采用混合专家架构(MoE),总参数量达120B,但推理时仅激活12B活跃参数,通过4个专家协同工作实现高效推理。这种设计让模型以极低的算力开销,达到传统120B参数模型的性能水平,大幅降低智能体运行的“思考成本”,兼顾效率与性价比。
二、架构黑科技:三重创新支撑性能飞跃
Nemotron 3 Super的极致性能源于三项核心架构创新,实现“速度、精度、成本”的三角平衡:
1.Hybrid Mamba-Transformer:长序列与注意力双赢
模型交错部署Mamba-2层与Transformer注意力层,形成互补优势:
Mamba层:以线性时间复杂度处理大部分序列任务,提供4倍内存与计算效率提升,为1M上下文窗口的实际落地提供技术支撑;
Transformer层:在关键节点深度插入,保障精确的关联召回能力,避免长序列建模中出现的信息关联弱化问题。
2.MoE+Latent MoE:专家协同降本增效
在经典MoE(仅激活部分专家)基础上,引入Latent MoE技术实现突破:
核心逻辑:路由决策前将token嵌入压缩至低秩潜空间,专家计算在小维度内完成后再投影回全维度;
关键优势:以相同推理成本激活4倍数量的专家,可针对Python语法、SQL逻辑等不同任务场景激活专属专家,实现更细粒度的专业化路由,准确率显著提升。
3.多token预测(MTP):结构化任务提速3倍
模型在单次前向传播中可同步预测多个未来token,而非逐token生成:
训练阶段:强化模型对长程逻辑依赖的内化能力;
推理阶段:内置推测解码能力,对代码生成、工具调用等结构化任务,可实现最高3倍的速度提升,且无需额外草稿模型。
此外,模型在英伟达Blackwell平台上以NVFP4精度运行,相比Hopper平台的FP8精度,推理速度最高提升4倍,且官方宣称精度无损失。
三、性能表现:吞吐量碾压同级模型
根据官方数据,Nemotron 3 Super在8K输入/16K输出设置下,性能表现远超同级竞品:
比GPT-OSS-120B吞吐量高2.2倍;
比Qwen3.5-122B吞吐量高7.5倍;
精度与上述两款模型相当甚至更高;
相比上一代Nemotron Super,同等硬件下推理速度提升5倍以上,复杂多步推理、多智能体协作场景中准确率最高提升2倍。
四、开源与落地:全生态支持,多领域快速适配
Nemotron 3 Super采用全开源闭环模式,降低开发者使用门槛:
开源资源:权重、训练数据集、训练配方(recipes)全部公开,可通过Hugging Face下载
工具支持:Unsloth已提供day-0 fine-tune支持,Ollama已上架模型,便于快速部署和二次开发;
首批用户:Palantir、Perplexity AI、Siemens、Dell Enterprise Hub(优化Dell AI Factory本地部署)、HPE Agents Hub、OpenRouter(开通免费体验通道)等已率先启用; 适配领域:软件开发、网络安全(cybersecurity)、生命科学、金融风控等垂直领域头部玩家已启动集成或测试,尤其适配OpenClaw等智能体(“养虾”)场景,大幅提升智能体执行效率。
Nemotron 3 Super的开源发布,为智能体行业带来颠覆性变革——它以1M token上下文、5倍吞吐量提升、极低的“思考税”,解决了长期困扰智能体落地的核心痛点。其架构创新既展现了英伟达在大模型领域的技术硬实力,也为开源社区提供了高性能、低成本的智能体专用模型选择。
对于普通用户而言,这款模型让“养虾”(使用智能体)变得更高效、更经济;对于行业而言,它将加速智能体在各垂直领域的规模化落地,推动Agentic AI进入“高效、普惠”的新阶段。目前模型已开放下载,智能体开发者和爱好者可直接体验这一技术革新带来的效率飞跃。