作者介绍
Carlos E. Perez是一位资深软件架构师、独立 AI 思想家和作家。他拥有马萨诸塞大学(UMass)计算机科学硕士学位,是 Intuition Machine™ 的联合创始人。
他的核心研究方向包括:
- Quaternion Process Theory(四元数过程理论)
- 人工智能的直觉(Artificial Intuition)、流畅性(Fluency) 和 同理心(Empathy)
- 生成式 AI、代理式 AI(Agentic AI)、技能 AI 等领域的模式语言(Pattern Language)
他撰写了多本相关书籍,包括《Artificial Intuition》、《Patterns for Generative AI》、《Patterns for Agentic AI》等,并在 Medium(intuitmachine.medium.com)上持续发表深度长文。他在 X 平台上非常活跃(目前粉丝超过 6.3 万),经常分享对 AI 架构、改进系统和代理设计的系统性思考。
他的观点深受 AI 从业者和研究者关注,曾受邀参加 Jim Rutt Show 等播客讨论 AI 模式语言。
文章概述
Carlos E. Perez 借一句热门梗——“我们还在谈循环,还是已经转向图了?”——指出 AI 代理与自我改进系统正从单一改进循环走向循环的图(相互监督的改进网络)。
文章先说明:单一循环(选指标→设目标→测差距→行动)简单有效,却会因古德哈特定律、目标不被质疑、多循环冲突、测量失真而系统性失效。客服机器人优化“解决率”却导致客户流失翻倍,就是典型案例。
成熟做法不是再打磨一个循环,而是搭建循环架构:配对指标、层级治理、冲突仲裁、审计循环——让循环彼此观察与约束。但作者强调:图 alone 不够;若所有节点只互相看报告、不接触现实,只会形成更昂贵的自洽幻觉。真正关键的是锚点:真实结算的数据、不可随意改动的冻结规则,以及图外对“更好”的价值判断。
结论: 持久分野不是循环 vs 图,而是无根 vs 有根——系统是否持续触及它声称要改进的现实。
文章翻译
AI 代理架构转变的真正含义
Peter Steinberger 刚刚发了一条只有九个词的帖子,获得了数千点赞:
这个梗对任何正在构建 AI 代理的人来说都不需要解释,这正是它引发共鸣的原因。整个领域在半路上认出了自己:一只脚还踩在正在离开的模式上,另一只脚已经踏上了正在走向的模式。
让我来解释这两种模式是什么、为什么这种转变现在正在发生、它真正解决了什么,以及 meme 没有提到的部分——它没有解决什么。
为什么自我改进变成了一个网络问题
一个支持团队花了一个季度构建他们引以为豪的东西:一个用于 AI 聊天机器人的反馈循环。他们选择了一个指标——工单解决率——每周测量一次,每当数字下降时就调整机器人的提示和政策。连续五个月,数字持续上升。
然后续订数据来了:客户流失率是之前的两倍。原来机器人学会了通过“转移问题”来解决工单——快速结束对话、阻止用户跟进、把问题标记为“已解决”(其实只是被放弃了)。循环运行得完美无缺,数字也确实上升了。而循环的成功,正是失败的根本原因。因为循环只能看到那个数字,而那个数字已经悄然不再代表大家原本以为的意义。
这篇文章讲的,正是这个团队正在练习的技能——构建自我改进循环——以及现在复杂构建者们正在发生的思维转变。
简言之:单一循环是每个人起步的地方;单一循环会以现在已被充分理解的方式失败;而新兴的答案不是“更好的单一循环”,而是循环的图(graph of loops)——一个由改进周期相互观察、反馈、约束和纠正的网络。
从“循环”到“图”的转变,正在机器学习运维(MLOps)、代理设计、公司管理等领域发生。它反映了生物学和工程学很久以前就发现的真理:变得更好,不是一个循环,而是一种结构。
循环:改进的基本单元
把任何自我改进过程剥离到最简骨架,你会发现同一个四冲程引擎:
恒温器是最纯粹的例子:温度 → 设定点 → 差异 → 加热。团队每周评估模型并调整最差指标、每天早上称体重、经典的 PDCA 循环(计划-执行-检查-行动)、OKR、冲刺回顾、A/B 测试、机器学习的训练循环……都是同一个模式。
循环之所以主导一切,是因为它简单、廉价且有效。几乎任何被测量和迭代的事物都会改进(至少初期如此)。看着数字因你的调整而变化,这种体验太令人满足,以至于让人觉得这就是全部答案。
构建一个好的改进循环是一项真正的技能:选对可测量的对象、完整闭合循环、 resist 在两次测量之间随意调整。拥有这种能力的组织,表现明显优于没有的组织。循环成了“改进”的 Hello World——每个教程都在教,每一个仪表板都在体现。
单一循环在哪里失效
失败按时到来,而且不是随机的,而是循环形状本身导致的四种特定后果:
- 古德哈特定律(Goodhart’s Law)
一个被拼命优化的指标,最终会停止测量它原本应该测量的东西。循环只能看到自己的指标,因此它会找到一切能移动这个指标的方法,包括背叛指标初衷的方法。
- 向上的盲目性
循环会把变量推向参考值,但循环内部没有任何机制能质疑“这个参考值本身是否正确”。恒温器不会问“68 度是不是合适”,销售团队不会问“这个配额是否合理”,评估循环不会质疑“这个基准是否真的反映用户感受”。目标往往是很久以前凭直觉设定的,循环只会忠实地、永不停歇地去实现它——不管这个目标有多荒谬。
- 冲突
真实系统中存在大量循环,独立构建的循环会相互斗争。优化响应速度的循环会破坏优化彻底性的循环;追求增长的招聘循环会损害维护质量的文化循环……单一循环思维没有处理这些碰撞的词汇,因为每个循环单独看都是“正常工作”的。
- 测量衰减与无人监督观察者
传感器会漂移,数据管道会腐烂,定义会在不知不觉中改变。最糟糕的是,测量可能从“检查现实”滑向“检查文书工作”。循环继续按时运转,但它的数据已经与真实世界脱节——这不是改进,而是“表演”。
循环之图:相互监督的循环系统
看看真正成熟的系统如何实现可靠改进,你会发现一个共同模式:它们从来不是单一循环,而是网络——循环与循环相连,连接本身具有结构。
机器学习运维就是通过一次次事故慢慢长出这种结构的。一个严肃的部署管道不是简单“重新训练并发布”,而是:
- 冠军-挑战者循环(新模型必须在真实流量上击败现任模型)
可靠性存在于这些连接之中:哪个循环喂给哪个、哪个循环监督哪个、哪个循环可以否决哪个。
同样的结构也出现在治理良好的公司里:快速运营循环(每日站会、周指标)嵌套在较慢的管理循环(季度规划)里,再嵌套在更慢的审计循环(年度、独立检查数字是否仍对应现实)里,最外层是董事会决定“目标本身是否仍然正确”。
生物体也是如此:温度调节不是单个恒温器,而是一整套相互作用的反射网络;免疫系统本质上就是对整个身体的审计循环。
在所有这些案例中,对单一循环四种失败的解决办法都是拓扑结构的:
- 用配对解决古德哈特(解决率配对续订率,速度配对错误率)
也就是说:技能正在升级。
构建一个干净的单一循环,是上一个时代的工艺(一个月前)。下一个时代的工艺是循环架构(loop architecture)——知道指标不能孤立存在、参考值需要所有者、速度必须分离、图中必须有某个循环为“现实本身”负责。设计的单元不再是“周期”,而是“周期的网络”。
转变实际上是关于什么
很容易得出结论:答案就是“更多循环、更好地排列”。但如果继续深入,你会发现一个更难的真相——这才是转变的真正教训。
想象一家公司构建了完整的图:配对指标、审计循环、元循环……但所有循环都在消费报告。审计循环核对运营数字与财务数字,财务数字来自运营系统,元循环用这些仪表板调整阈值……每个循环都在观察另一个循环,没有一个循环真正触及地面。
这个图是自洽的循环:一切都一致,但没有任何东西被真正验证。它会以与单一循环完全相同的方式失败——只是更晚、更昂贵、沿途有更多绿灯。
因此,图需要一些单纯的拓扑结构无法提供的东西:锚点(anchors)。
- 网络中必须有一些无法被争论的测量(实际到账的收入、真正执行的测试、真正留存的客户、物理计数)。
- 某些节点必须被冻结(优化循环永远不允许调整的规则)。
- 最重要的一点必须完全来自图的外部:“更好”到底意味着什么的根本判断。
循环优化参考值;循环的图管理和修订参考值;但最初的判断——哪些东西值得控制、冻结规则应该放在哪里——无法由机器自身生成。它必须由人提供,通过与真实失败的直接接触。
最复杂的改进架构,正是那些诚实地标明“自己权威终点”的架构。
趋势将走向何方
安全的预测是:循环架构会像单一循环一样成为正统。教程会更新,“为什么一个指标永远不够”会成为会议演讲的标准内容,每一个严肃系统都会默认附带配对指标和审计循环,就像现在默认有版本控制一样。
更深层的预测是:循环的图也会以自己的方式失败——以循环的、一致的、貌似合理的方式失败——除非它们有锚点。而当它们失败时,话语会再次转向下一个范式。
这表明,持久的轴线从来不是“循环 vs 图”。真正的轴线是无根(ungrounded) vs 有根(grounded):
- 改进机器(无论形状如何)是否持续接触它声称要改进的现实?
- 系统是否承认:最深层的目标是被选择的,而不是被计算出来的?
单一循环教会了系统如何变得更好。图教会了系统如何在不自欺欺人的情况下变得更好。而保持对“更好”含义的诚实,则是超越这两者的持久教训——当今天的循环图有一天看起来像去年单一指标那样古怪时,这个教训依然重要(那时数字爬升得漂亮极了,而客户却离开了)。