- Dream-RSI 是 Google、Google DeepMind 与马里兰大学等机构 9月14日发布的论文(arXiv:2609.14858),核心思路是把 AI Agent 探索过程的历史记录变成可重放的"模拟器",离线评估并改进探索策略。
- 方法不改底层 coding agent,只加一个编排层:选哪些分支、并行多少、何时停止,探索决策全部变成可编程的代码。
- 算法工程任务(Lasso 正则化路径)上,用 317 次 agent 调用跑赢固定探索基线 550 次调用的结果;对比用 51,200 次生成的 SimpleTES,调用数少约两个数量级。
- 数学优化三任务生成数控制在 1,000 以内;KernelBench 四个 GPU kernel 任务达到同等性能少用 1.79–2.43 倍生成数,或同预算下性能高 1.44–2.09 倍。
- 全部数字为论文 v1 自报,代码标注"准备中",第三方目前无法复现。
- 结构性局限:模拟器只能重放"已经走过的空间",它改进的是搜索预算的用法,不发明新的搜索方向。
一句话说清:它在解决什么问题
AlphaEvolve 一类的自动发现系统,算力开销已经到了万次生成量级——SimpleTES 系统找一个 Lasso 正则化路径求解器,用了 51,200 次生成。钱花在哪、值不值,取决于"探索策略":哪些方向值得展开、开多少分支并行、什么时候收手。这类策略目前大多靠人工设计,并且跑起来之后就固定不变,系统不会从自己的发现历史里学到任何东西。
让策略在线学习行不行?难处在于评估一个策略的好坏,要看它跑完整整一轮长程发现过程——反馈延迟以小时计,候选策略还一大把,逐个在线试错的代价高到不现实。Dream-RSI 整篇论文就是卡在这个两难上做文章。
核心方法:把棋谱变成沙盘
下过棋的人检验新战术,不用真下一盘——棋谱就在那里,纸上推演就行。论文的关键洞察与此同构:一次探索跑完,所有分支、决策点和执行结果已经记录成一棵发现树,新策略在这棵树上"重放"时,只需翻开已存储的结果,零执行成本。作者把这个离线评估过程叫"做梦"(dreaming),命名致敬 Dreamer 系世界模型——等于把 model-based RL 的思路搬到了 agent 探索层。
工程实现是一个轻量编排层,底层 coding agent 一行不改。探索策略的动作是每轮从发现树里选一批节点继续探索;离线阶段,一个 LLM 策略开发 agent 看一轮重放轨迹和评分,改一版策略代码,最终选评分最高的版本重新部署。回放评分由三项构成:发现质量(树上最高分),减去生成次数惩罚,加上并行度奖励。因为候选集里包含当前策略,新策略在历史平均回放分上不劣于旧策略。
改好的策略上线再跑一轮真实发现,新历史又扩充模拟器池,循环往复。这就是标题里"递归自我改进"的确切含义:自我改进发生在探索策略这一层,而不是模型权重。
成绩单与对比
算法工程任务用的是 SimpleTES 同款 Lasso 基准(17 个合成实例上发现,6 个留出数据集评估)。Gemini-3.1 Pro 底座下,Dream-RSI 用 317 次 agent 调用跑赢了固定探索基线 550 次调用的结果;发现出的求解器在全部 6 个留出集上快过 sklearn 和 glmnet。对比用 51,200 次生成的 SimpleTES,调用数少约两个数量级,留出集平均运行时还更低(2931.0ms 对 3804.8ms)。 数学优化三任务(Sum-Diff、Circle Packing、Autocorrelation Inequalities):前两项拿到 1.145427 和 2.635983,达到或超过对比系统,生成数控制在 1,000 以内——SimpleTES 拿 Autocorrelation 的最优结果用了 51,200 次。KernelBench 四个 GPU kernel 任务上,VGG16 和 LayerNorm 达到同等性能分别少用 2.43 倍和 1.79 倍生成数;ConvDiv 和 ConvMax 在相近预算下性能高 2.09 倍和 1.44 倍。
引用这些数字时要带上对照口径:主基线是作者自建的 Recursive Fixed Exploration(同底座、同预算、同初始策略,对照公平);与 SimpleTES、AlphaEvolve 等外部系统的对比跨了模型与预算,数学优化表格里引用的是各家报告值。
意义与局限
视角转换是全文最值钱的部分。此前的系统把发现历史当作上下文、记忆或微调数据,这篇把它当成可交互的环境,meta 级反馈贵和慢的痛点被绕开。消融实验里还有个反直觉发现:把历史总结成"方向建议"塞进 prompt,两个范式下成绩都变差——语义指引过约束了搜索多样性。历史要当环境用,不是当教练用。
四条边界要清楚。回放模拟器只能覆盖"已经走过的空间",它改进的是预算怎么花,不发明新的搜索方向,策略的动作空间有限:选哪些分支、按什么顺序、一批多少个、何时停。回放分不等于在线表现,发现 agent 是随机的,离线选出的策略部署后仍可能水土不服,"不劣于"的保证只在历史平均回放分的意义上成立。代码标注"准备中",GitHub 仓库目前只有论文 PDF,第三方无法复现。正文没有独立的 limitations 章节,局限要自己从实验设计里读出来。
快速上手:资源、参数与跟踪建议
团队来自 Google、Google DeepMind、马里兰大学和弗吉尼亚大学,17 位作者,论文 9月14日提交 v1,正文 12 页。做 agent 发现系统、进化搜索和 meta-RL 的人值得读正文第 2、3 节,方法的形式化写得干净,数学门槛不高。
跟踪建议有三条。一是盯住 GitHub 仓库的代码发布,复现脚本放出之前,别把这些自报数字直接用于选型或采购判断;二是自己在跑发现系统的团队,可以先把探索日志记成"决策节点+结果"的树结构,这是复用这套思路的前提;三是转述这篇论文时带上对照口径,"同底座自建基线下省一半以上调用"是准确说法,写成"比 SimpleTES 快 162 倍"就丢掉了关键限定。