林俊旸从Qwen离职后发表深度技术博客,核心论点是:AI正在从"推理思考"(Reasoning Thinking)时代迈向"智能体思考"(Agentic Thinking)时代。
文章脉络:
- o1/R1的启示 — 推理模型证明了RL+可验证反馈信号能显著提升模型认知能力,但本质上仍是"静态独白式"的长链推理。
- 思考模式与指令模式的合并困境 — Qwen3尝试了混合思考模式,但两种模式的数据分布和行为目标天然冲突(指令模式要简洁高效,思考模式要深度推理),合并难度远超预期。Qwen最终在2507版本回归了分离路线,而Anthropic、DeepSeek则走了整合路线。
- Anthropic路线的启发 — Claude 3.7/4的方向表明:长推理链≠更智能,思考应服务于具体工作负载(编码、工具调用、Agent工作流),而非追求"看起来很厉害的中间推理过程"。
- 什么是Agentic Thinking — 核心转变:从"模型能不能想得更久"变为"模型能不能在与环境交互中持续有效行动"——决定何时停止思考去行动、选择工具、处理噪声反馈、失败后修正计划。
- 基础设施挑战 — Agentic RL远比推理RL复杂:策略嵌入工具服务器/浏览器/沙箱等复杂环境中,训练推理需解耦,环境设计本身成为核心研究课题。
- 未来方向 — 工具赋能的思考比孤立思考更有用,但奖励黑客攻击风险也更大。竞争优势将从"更好的RL算法"转向"更好的环境设计、harness工程、多Agent协调"。
最近大家都在讨论Harness,这是趋势也是值得深耕的板块,希望能给大家带来更多的思考。
以下为原文:
过去两年重塑了我们评估模型的方式和对模型的期望。OpenAI的o1表明,"思考"可以成为一种一等能力——一种你专门为之训练并向用户开放的能力。DeepSeek-R1则证明,推理式后训练可以在原始实验室之外被复现和扩展。OpenAI将o1描述为通过强化学习训练、使其"先思考再回答"的模型。DeepSeek则将R1定位为一个与o1具有竞争力的开源推理模型。
那个阶段很重要。但2025年上半年主要围绕的是推理思考:如何让模型花费更多推理时计算资源,如何用更强的奖励信号训练它们,如何暴露或控制这些额外的推理努力。现在的问题是下一步是什么。我认为答案是智能体思考:为了行动而思考,在与环境的交互中思考,并根据来自真实世界的反馈持续更新计划。
1. o1和R1的崛起真正教会了我们什么
第一波推理模型教会我们:如果想在语言模型中扩展强化学习,就需要确定性的、稳定的、可扩展的反馈信号。数学、代码、逻辑和其他可验证领域成为核心,因为这些场景中的奖励信号远强于通用的偏好监督。它们让RL可以针对正确性而非合理性进行优化。基础设施变得至关重要。
一旦模型被训练为通过更长的推理轨迹来推理,RL就不再是监督微调的轻量级附加组件,而是变成了一个系统工程问题。你需要大规模的轨迹展开(rollout)、高吞吐量的验证、稳定的策略更新、高效的采样。推理模型的出现既是一个建模故事,也是一个基础设施故事。OpenAI将o1描述为用RL训练的推理系列,DeepSeek R1随后强化了这一方向,展示了基于推理的RL需要多少专门的算法和基础设施工作。第一个重大转变:从扩展预训练到扩展面向推理的后训练。
2. 真正的问题从来不只是"合并思考和指令"
2025年初,Qwen团队中的很多人心中都有一个宏大的愿景。理想的系统会统一思考模式和指令模式。它将支持可调节的推理力度,类似于低/中/高推理设置。更好的是,它能自动从提示和上下文推断出适当的推理量,让模型能够决定何时立即回答、何时多想一会儿、何时在真正困难的问题上花费大量计算。
从概念上讲,这是正确的方向。Qwen3是最清晰的公开尝试之一。它引入了"混合思考模式",在一个模型家族中同时支持思考和非思考行为,强调可控的思考预算,并描述了一个四阶段后训练流程,在长链思考冷启动和推理RL之后明确包含了"思考模式融合"。
但合并远比描述要难得多。难点在于数据。 当人们谈论合并思考和指令时,往往首先想到的是模型端的兼容性:一个检查点能否支持两种模式,一个对话模板能否在它们之间切换,一个服务栈能否暴露正确的开关。更深层的问题是,两种模式的数据分布和行为目标存在根本差异。
在试图平衡模型合并与提升后训练数据质量和多样性的过程中,我们并非一切都做对了。在这一修订过程中,我们也密切关注了用户实际如何使用思考和指令模式。一个强大的指令模型通常因直接性、简洁性、格式合规性、低延迟而获得奖励,尤其在高频、大批量的企业任务中——如改写、标注、模板化客服、结构化提取和运维质检。一个强大的思考模型则因在困难问题上花费更多token、保持连贯的中间结构、探索替代路径、保留足够的内部计算以显著提升最终正确性而获得奖励。
这两种行为画像是相互拉扯的。如果合并的数据未被精心策划,结果通常是两个方向都平庸:"思考"行为变得嘈杂、臃肿或不够果断,而"指令"行为变得不够清晰、不够可靠,且比商业用户实际需求更昂贵。
在实践中,分离仍然具有吸引力。 2025年晚些时候,在Qwen3最初的混合模式框架之后,2507系列发布了独立的指令和思考更新,包括单独的30B和235B变体。在商业部署中,大量客户仍然需要高吞吐量、低成本、高度可控的指令行为来执行批处理操作。对于这些场景,合并并没有明显的好处。将两条线分开让团队能够更纯粹地专注于解决各自模式的数据和训练问题。
其他实验室选择了相反的路线。Anthropic公开主张整合式模型理念:Claude 3.7 Sonnet被定位为一个混合推理模型,用户可以选择普通回复或扩展思考,API用户可以设置思考预算。Anthropic明确表示他们认为推理应该是一种整合的能力而非独立的模型。GLM-4.5也公开将自己定位为同时具有思考和非思考模式的混合推理模型,统一了推理、编码和智能体能力;DeepSeek后来也朝类似方向发展,在V3.1中推出了"Think & Non-Think"混合推理。
关键问题在于合并是否有机。 如果思考和指令只是尴尬地缝合在同一个检查点中,仍然表现得像两个拼凑的人格,那么产品体验仍然是不自然的。真正成功的合并需要一个平滑的推理力度光谱。模型应能表达多个层级的努力程度,并且理想情况下能够自适应地在其中选择。GPT风格的力度控制指向了这一点:一种关于计算的策略,而非一个二元开关。
3. 为什么Anthropic的方向是一个有益的纠偏
Anthropic围绕Claude 3.7和Claude 4的公开表述是克制的。他们强调整合推理、用户可控的思考预算、真实世界任务、编码质量,以及后来在扩展思考过程中使用工具的能力。Claude 3.7被呈现为一个具有可控预算的混合推理模型;Claude 4在此基础上扩展,允许推理与工具使用交错进行,同时Anthropic将编码、长时间运行的任务和智能体工作流作为首要目标。
产生更长的推理链并不自动使模型更智能。 在许多情况下,过度的可见推理信号反映的是分配不当。如果模型试图以同样冗长的方式推理所有事情,它可能正在失败于优先排序、失败于压缩、或失败于行动。Anthropic的轨迹暗示了一种更有纪律的观点:思考应由目标工作负载来塑造。 如果目标是编码,那么思考应帮助代码库导航、规划、分解、错误恢复和工具编排。如果目标是智能体工作流,那么思考应提升长时间跨度上的执行质量,而非产生令人印象深刻的中间散文。
这种对针对性实用的强调指向了更大的图景:我们正在从训练模型的时代迈向训练智能体的时代。 我们在Qwen3博客中明确提出了这一点,写道"我们正从专注于训练模型的时代过渡到以训练智能体为中心的时代",并将未来的RL进展与长时间推理的环境反馈联系起来。智能体是一个能够制定计划、决定何时行动、使用工具、感知环境反馈、修订策略并在长时间跨度上持续运行的系统。它由与世界的闭环交互来定义。
4. "智能体思考"到底意味着什么
智能体思考是一个不同的优化目标。推理思考通常以最终答案前内部推理的质量来评判:模型能否解出定理、写出证明、产生正确代码或通过基准测试。智能体思考则关注的是:模型能否在与环境交互的过程中持续取得进展。
核心问题从"模型能不能想得足够久?"转变为**"模型能不能以一种维持有效行动的方式来思考?"** 智能体思考必须处理纯推理模型基本可以回避的几件事:
智能体思考是通过行动来推理的模型。
5. 为什么智能体RL基础设施更难
一旦目标从解决基准问题转向解决交互式任务,RL技术栈就会发生变化。用于经典推理RL的基础设施是不够的。在推理RL中,你通常可以将展开的轨迹视为基本自包含的,配合相对干净的评估器。在智能体RL中,策略被嵌入到一个更大的框架中:工具服务器、浏览器、终端、搜索引擎、模拟器、执行沙箱、API层、记忆系统和编排框架。环境不再是一个静态验证器,它是训练系统的一部分。
这产生了一个新的系统需求:训练和推理必须更彻底地解耦。 没有这种解耦,轨迹展开的吞吐量就会崩溃。想象一个编码智能体必须在实时测试环境中执行生成的代码:推理侧停滞等待执行反馈,训练侧因缺少完成的轨迹而饥饿,整个管道的运行远低于经典推理RL中预期的GPU利用率。加上工具延迟、部分可观测性和有状态环境,这些低效进一步放大。结果是:在你还远未达到目标能力水平时,实验就已经变得极其缓慢和痛苦。
环境本身也成为一等研究产物。 在SFT时代,我们痴迷于数据多样性。在智能体时代,我们应该痴迷于环境质量:稳定性、真实性、覆盖度、难度、状态多样性、反馈丰富度、抗利用性以及轨迹生成的可扩展性。环境构建已经开始成为一个真正的创业类别,而不仅是一个附带项目。如果智能体正在被训练以在类生产环境中运行,那么环境就是核心能力栈的一部分。
6. 下一个前沿是更可用的思考
我的预期是,智能体思考将成为思考的主导形式。我认为它最终可能会取代大部分旧式的静态独白版推理思考——那些过度冗长的、孤立的内部推理链,试图通过输出越来越多的文本来弥补缺乏交互的不足。即使在非常困难的数学或编码任务中,一个真正先进的系统也应有权搜索、模拟、执行、检查、验证和修订。目标是稳健且高效地解决问题。
训练此类系统最大的挑战是奖励黑客攻击。 一旦模型获得了有意义的工具访问权限,奖励黑客攻击就变得危险得多。一个能搜索的模型可能会学会在RL过程中直接查找答案。一个编码智能体可能会利用代码仓库中的未来信息、滥用日志,或发现使任务无效的捷径。一个存在隐藏泄漏的环境可能会让策略看起来超人,实际上却在训练它作弊。这正是智能体时代变得比推理时代精妙得多的地方。更好的工具使模型更有用,但也扩大了虚假优化的攻击面。我们应该预期下一批严肃的研究瓶颈将来自环境设计、评估器鲁棒性、反作弊协议,以及策略与世界之间更原则性的接口。尽管如此,方向是明确的。工具赋能的思考比孤立的思考更有用,也更有可能提升真实的生产力。
智能体思考还意味着框架工程。核心智能将越来越多地来自多个智能体如何被组织:一个规划和分发工作的编排者,像领域专家一样行动的专业智能体,以及执行更窄任务同时帮助控制上下文、避免污染、保持不同推理层级之间分离的子智能体。未来的转变是:从训练模型到训练智能体,从训练智能体到训练系统。
结论
推理浪潮的第一阶段确立了重要的一点:当反馈信号可靠且基础设施能够支撑时,在语言模型之上的RL可以产生质的飞跃式的更强认知。
更深层的转变是从推理思考到智能体思考:从想得更久到为了行动而想。训练的核心对象已经发生了转移。它是模型加环境系统,或者更具体地说,是智能体以及围绕它的框架。这改变了哪些研究产物最重要:模型架构和训练数据,当然——但也包括环境设计、轨迹展开基础设施、评估器鲁棒性,以及多个智能体协调的接口。这改变了"好的思考"的含义:在真实世界约束下维持行动的最有用的推理轨迹,而非最长或最显眼的那个。
它也改变了竞争优势的来源。在推理时代,优势来自更好的RL算法、更强的反馈信号和更可扩展的训练管道。在智能体时代,优势将来自更好的环境、更紧密的训练-服务集成、更强的框架工程,以及闭合模型决策与其产生后果之间回路的能力。