作者简介
Matt Shumer 是 OthersideAI 的 CEO,也是 AI 写作产品 HyperWrite 背后的创业者。他在个人介绍中称 HyperWrite 已有超过 500 万用户,同时也是 Groq、Replit 等公司的投资者。Something Big Is Happening 是他创办的 AI Newsletter,主要发布模型实测、使用指南和行业观察。
文章概述
这是一篇基于实际使用的 GPT-6 Astra 评测。Matt Shumer 认为,Astra 在日常工程、电脑操作、长对话连续性和智能体协作方面优于 Fable 5,已经成为他的主力模型;Claude 仍在视觉品味和素材制作上领先。文章最重要的实验是 Manager Loop:由协调者持续推进项目,独立的执行者负责实现,并按需调用子智能体。作者用它搭建了模拟文明和类似 GTA 的纽约城,但也明确指出,长期自主工作仍未解决,模型会陷入细节,协调方式与可承担的 Token 成本会越来越重要。 正文翻译
更新:Fable 5.1
写完这篇评测后,Fable 5.1 发布了。我做了几处小调整,让文中的比较更清楚。根据我对 Fable 5.1 的早期测试,这里的大部分看法依然成立。接下来几天我会继续测试,等自己的判断足够确定后,再写一篇对比。
- GPT-6 Astra 把我赢回来了。它是我会推荐给几乎所有人的日常主力模型。现在,只要任务还没有疯狂到离谱,我几乎都会默认使用它。对我的工作来说,它比 Fable 5 更聪明,也更可靠。
- 做日常工作时,我通常只要直接告诉它自己需要什么。与最近的许多模型不同,它会用普通英语回答。这让使用过程非常愉快,也更方便我同时管理多个智能体。Medium 推理强度很适合日常使用;更大型的实验,我会使用 Ultra。
- Claude 的视觉品味仍然更好,也更擅长制作视觉素材。设计和某些 3D 任务,我还是会找 Claude。
- Astra 显然是一个大模型。它比我希望的稍慢,但这也是大模型常见的代价。好处是,它明显更擅长理解意图、处理歧义和作出决定。凡是“大模型更好”会带来的体验,你在这里基本都能感受到。
- 最大的惊喜是 Manager Loop:一个协调者持续推动项目,执行者在另一个独立的 Codex 会话中工作,并按需使用子智能体。我用这种方式搭建了一个模拟文明,还在一个类似 GTA 的纽约城项目上取得了大量进展。
- 我仍然不会说长期自主工作已经解决。Astra 会沉迷于细节,协调方案的影响非常大。如果设置得不够谨慎,有野心的长时间任务依然需要大量协调,而且进展会逐渐逼近平台期。不过,这是第一个让我觉得只要提示词和配置正确,我就能把它推到那个水平的模型。
- 我的大型实验消耗了极其庞大的 Token。只要提示得当,这个模型可以运行非常久。写作本文时,我还不知道发布定价,但我认为,你能负担多少模型用量会变得重要得多。
优点
- 电脑操作足以让我放手运行,不必盯着它的每一次点击。
- 进度更新容易理解,长对话连续性很好,智能体之间的协调也很实用。
不足
- 有野心的长时间任务仍需大量协调;如果设置不够谨慎,进展会逐渐停在平台期。
过去将近一年,OpenAI 的模型一直是我毫不犹豫的默认选择……直到 Anthropic 推出 Fable 5,我几乎一夜之间就倒向了另一边。
不过,一时兴起之下,我决定再给 GPT-5.6 Sol 一次机会。它表达感谢的方式,是立刻把我的整台电脑清空。那台机器上的文件几乎全被删了,包括公司文档。嗯,当然会这样。 到了这一步,OpenAI 得拿出一个近乎奇迹的模型,才能把我赢回来。
我很高兴地说,他们做到了。现在我几乎所有事情都在用 GPT-6 Astra。它完成的一些项目,是我真心觉得 AI 还没准备好去做的。好家伙,我有一堆荒唐东西要给你们看。
我真正想合作的模型
周末时,我搭建并分享给一群朋友使用的一个复杂智能体服务宕机了。其中一个朋友发消息告诉我服务坏了。当时我正和女朋友在外面,没时间亲自处理,于是就在手机上打开 Codex,让 Astra 接手项目,只说了一句:“挂了,修一下。”然后我收起了手机。
一个小时后,他发消息说服务恢复了。我完全没有干预,甚至已经忘了自己让 Astra 修过这件事。我的反应差不多就是:“噢,太他妈爽了。”然后继续过我的一天。
考虑到之前电脑上发生的事,这里大概需要解释一下。Astra 比前代谨慎,有时甚至谨慎过头,但我认为 OpenAI 在这里找到了很好的平衡。它会继续把工作做下去,不会不停停下来申请许可;同时,对于自己主动承担什么,它又更加克制。以我的体验来看,我远比上一个模型更能信任它。
在日常工程,以及我平时用电脑处理的许多其他事情上,Astra 已经非常接近我一直想要的模型。我告诉它需要什么,它就把事情做完。后端工作尤其出色,它也很擅长发现其他模型所写代码中的问题。和我之前使用的 OpenAI 模型相比,它给人的感觉是大得多,也聪明得多。
对于交给单个智能体的工作,我目前最希望继续改进的还是速度。让一群智能体协同工作,会打开一些非常不同的可能性,后面会讲到。但你并不需要复杂的配置,才能从 Astra 获得很好的结果。普通工作无论想做什么,直接开口就行。很多大型实验中,我使用 Ultra 推理强度;日常使用时,Medium 是很好的中间选择。
什么是推理强度(reasoning effort)? 这是用来设定模型应投入多少推理工作的选项。级别越高,模型在采取行动前思考得越多。
它也更容易合作,原因简单得甚至有点难为情:我终于能看懂它在说什么了。最近的许多模型,尤其是 Claude,也包括 OpenAI 的一些模型,都习惯用异常密集的技术说明回答简单问题。我读完整段回复,还是不知道它到底有没有完成我要求的事情。Astra 通常会说普通英语,回复长度控制得也合理,让人很容易知道发生了什么、有没有需要我处理的事。同时管理一批智能体时,这一点差别巨大。我扫一眼进度更新就能继续过自己的生活,不必为了弄明白它们在问什么,把五个不同项目重新装进脑子。
电脑操作也值得认真谈谈。我尤其关注这个领域,因为早年在 HyperWrite 做过浏览器智能体。我们在 2023 年发布了浏览器助手,也开发过自己的软件操作模型,所以我思考这个问题已经很久了。过去,这类系统能做出令人印象深刻的 Demo,却仍需要大量监督,或者慢到让我宁可自己动手。即使一个系统有 99% 的时间都能正常工作,只要你一直担心这次会不会撞上剩下的 1%,它也很难获得信任。 Fable 5 的电脑操作已经很好,Astra 感觉又高了一个台阶。无法接入直接集成时,我让它通过浏览器处理 Newsletter 和收件箱。它动作很快,能把工作做完,还会记住“处理后把邮件重新标为未读”这种小偏好。我也让它管理过广告活动,体验好得不得了。那些界面对我来说很难操作,我也不太熟悉。现在不必先弄清楚每个功能藏在哪里,就能把整件事交出去,非常有用。
我可以放心让它做这些事,不必盯住每一次点击。事实上,Astra 的电脑操作好到我经常根本没意识到它正在使用电脑。任务完成了,模型用过电脑,然后继续下一步。我真的不再去想这件事,这种感觉太自由了。
我现在也很少重新开对话。我的线程通常会持续很久;需要多个智能体时,我经常让当前正在合作的智能体启动其他智能体。随着对话越来越长,Astra 很擅长抓住真正重要的内容。为了继续工作而压缩长对话的过程近乎无缝,我不必在压缩后不停重新解释。可以给它看示例、给反馈,慢慢建立双方对我想要怎样完成工作的共同理解。对我的大多数工作而言,这会让智能体随着时间推移越来越好用。写作仍是例外:我还没有成功让它充分吸收自己的偏好。
什么是上下文压缩(compaction)? 模型一次只能接收有限的信息。对话越来越长后,空间最终会用完。上下文压缩会把早期对话浓缩,让智能体能留在同一线程里继续工作。难点在于,既要延续目标、决定和当前工作状态,又不能丢失稍后还需要的细节。如果它运作良好,我就不必从头开始,也不用把一切重新解释一遍。
另一个突出能力,是这些模型彼此沟通的效果。Codex 框架很擅长支持这种沟通,Astra 也充分利用了它。需要把工作转给新智能体时,我会让它与之前的智能体交谈,把情况弄清楚。两个智能体一起完成交接,新的那个再继续做下去。
这些体验加在一起,让 Astra 成了我几乎处理所有事情时都会使用的模型。Claude 的视觉品味仍然更好,也更擅长制作视觉素材,所以设计和某些 3D 任务,我还是会找 Claude。(例如,我让 Astra 重新设计 somethingbig.ai,结果并不好。)但在我的其他工作里,Astra 强得多。和女朋友外出时,它能迅速修好坏掉的应用,这当然很好,但我交给它做的事情远不止这些。某些大项目,坦白讲,相当荒唐。 所以,我让它搭建了一个文明
我交给 Astra 的项目之一是模拟文明:一个有人类和动物的世界,其中每个人都由一个 Astra 智能体驱动。我先设置好稍后会解释的协调方案,然后给它一个提示词,放手让它工作。
有一次,我待在房间里,突然听到电脑传出人声。我走出去,发现这个世界里的居民正在互相交谈。我知道这本来就是要求的一部分,可从另一个房间亲耳听见它发生,仍然是一个“我靠”的时刻。
这段视频展示智能体围绕一座木制庇护所协作,学习如何搭建生存所需的设施。成品还很粗糙,它们有时会抢话,但已经能看到协作实际发生。
Astra 建好了一个漂亮的世界,把居民放进去,又逐步让这些居民运作起来。看它调整动物行为尤其有趣。最初,动物会掉进水里之类的;随着工作继续,它们的行为逐渐改善。处理人类角色时,它先让两个人正常活动,然后再增加更多人。最后,我的扬声器里开始传出它们的对话。
不过,做到这一步经历了一些试错。我必须采用与 Claude 很不一样的方法来处理项目。
给它合适的工具
Claude 仍然更擅长亲自制作视觉内容。让它用 Blender 搭建东西,或者直接用 Three.js 代码生成 3D 场景,它通常更能让结果“看起来对”。我不会说 Astra 的空间推理很差。差距更多在于,它制作可信、好看视觉素材的能力。让 Astra 使用 Blender 会有帮助,但即便如此,结果仍比不上 Claude 在这些 Three.js 项目中直接用代码生成的内容。
Three.js、Blender 和 Unreal 有什么区别? Three.js 用于在浏览器中构建 3D 图形;Blender 是 3D 创作工具;Unreal 是游戏引擎。现成模型、角色和其他素材会对结果产生很大影响,所以比较时必须考虑具体配置。
我把最初的 Claude-of-Duty 提示词稍加修改后交给 Astra,结果很好。如果我没有先看过 Claude 的版本,一定会非常兴奋。但把两者放在一起,Claude 的优势很清楚。
但如果给 Astra Unreal Engine,让它利用已有素材和工具,事情就会变得非常有意思。它终于聪明到足以充分使用这个环境。Fable 5 远没有这么擅长操作 Unreal,不过我怀疑 5.1 会有很大进步。(我曾把 Fable 5 接入并勉强运行起来,但之前的实验没有走得更远。) 我在 Three.js 和 Unreal 中分别为文明项目,以及稍后会展示的纽约项目提出了类似要求。差别非常明显。
Astra 使用了 MetaHuman 角色等现成素材,所以并不是从零制作了每一个物体和人物。比较结果时,这一点很重要。但我希望智能体具备的恰恰也是这种能力:这个领域已经有许多出色的工具和资源可用。
在另一个更早的游戏实验中,它利用现有素材让汽车正常运行,打开游戏亲自试玩,再根据实际情况作出调整。和以前的模型相比,它更有能力去玩自己正在制作的游戏。
一个提示词,多个智能体
Astra 在长项目上的表现已经明显好于 Fable 5,但它仍会到达一个进展逐渐放缓的节点。它继续工作,经常沉迷于小细节,却没有让整个项目明显变好。我尝试过几种围绕这些项目组织智能体的方法。它们都有效,却始终无法真正越过这个平台期。最后,这套方案做到了。
我把它叫作 Manager Loop:一个智能体持续推动项目,另一个负责实际工作。一开始,协调者会采访我,直到我们就目标达成一致。接着,它把目标转换成待办清单,然后在另一个 Codex 会话中启动执行者。那是一个完全独立的智能体,不是协调者的子智能体。
协调者会把一个阶段交给执行者,使用 Goal mode 让它持续朝该阶段的终点推进;完成后,再让它进入下一阶段。执行者则可以按需调用子智能体。简单说,协调者接手了我原来亲自承担的工作:让整个项目沿着大计划不断向前走。
我如何向 Manager 说明任务
如果我已经有明确构想,会花时间确保协调者真正理解它。这些智能体可以工作很久,所以最初的误解可能变成大量我根本不想要的产出。对于界面,我会先让它制作 Mockup,和它一起完善,再要求它搭建真实版本。
如果更多决定可以交给模型,我会给它灵感来源:自己喜欢的产品、设计或想法链接。它们不必与正在构建的东西特别接近。直接展示一个例子,往往比试图描述每个细节更能传达我想要什么。
当我让 Astra 为另一个智能体写提示词时,会要求它在保留我的要求的前提下,尽可能简短。否则,它可能增加过于具体的指令,把工作引向我没有打算去的方向。
两个会话,不同职责
独立会话 01:协调者
协调者发送阶段与目标,执行者返回完成结果与证据。
独立会话 02:执行者
执行者可以把范围明确的任务交给子智能体。执行者本身不是协调者的子智能体。
我还会生成一个网页,用清单和曲线展示已经完成了多少事项。我也做了一套方法,用来可视化子智能体的工作。把任务铺开来看,更容易跟上正在发生的事情。
我也给了它更大的委派空间。在其中一台电脑上,我修改 Codex 配置,把可同时使用的子智能体从 4 个提高到 16 个。在运行文明和纽约项目的机器上,我把上限提高到 96 个,虽然它并不总会全部用上。这种做法过度到相当荒唐,成本也会高得离谱,但我想看看它究竟能被推到多远。
你可能还要明确鼓励它使用更多子智能体。即使在 Ultra 推理强度下,我有时也需要这么做。仅仅提高数量上限,不代表它会主动使用这些名额。
这就是我所说的“这个文明来自一个提示词”。在那之前,我已经做过实验,找到了这套方案并完成配置。配置就绪后,我可以把项目交给它,让智能体逐步完成。一个请求背后实际发生的工作量极其庞大。
我正在制作一份单独的指南和开箱即用的配置,让你不必重复我的所有实验就能尝试。清单和子智能体可视化工具也会包含在内。Manager Loop 上线时通知我。目前最重要的是:普通工作不需要这套东西。只有当我想提出某种荒唐要求时,才会使用它。 然后是纽约
与此同时,我一直在让 Astra 用 Unreal 搭建一个纽约城。最初目标是做成类似 GTA 的东西,因为显然,建造一个文明还不够不切实际。
这个项目同样从一个提示词开始。之后我做过少量引导,但基本只是告诉它把野心放大,继续干。我没有按街道逐条指导它施工。
项目仍远没有完成,但它已经做到的细节,以及持续推进建设的方式,令人惊讶。它先完善第一条街,然后继续扩张,项目规模越来越大。效果好得他妈离谱。
令人意外的是,给出最初要求后,我几乎不用再参与。还有大量内容没有建成,但这些智能体会继续向前推进,不需要我把野心拆成数百条独立指令。
我依然不会说长期自主工作已经解决。Astra 会陷进小细节,也需要协调方案来维持大项目的整体进度。我希望这一切能自然发生,不需要自己安排。我不会惊讶于我们只差一两代模型就能做到这一点。不过,这是第一个让我觉得只要提示词和配置合适,就能把它推到那个水平的模型。
游戏世界之外
我还让 Astra 构建了一个 Web 浏览器。这个项目开始得比较早,当时我还没摸索出协调循环,因此它很能说明前面提到的平台期。Astra 建了一套测试,把浏览器行为与 Chromium 逐项对比,不断处理差异。最后,它已经能把 Google 渲染得相当接近正确效果。但即使还有大量工作可做,进展最终还是慢了下来。我很想知道,如果换成现在使用的方案,这个项目会发展成什么样。
工程之外,我也得到过有用的结果。Astra 审查了我的税务资料,发现了一些会计师没有提出的潜在节省方式。
我最喜欢的项目之一,起因远没有模拟文明那么光鲜:我的磁盘空间快用完了。Codex 线程已经变得巨大,当时我正和 Theo 聊这件事。(也感谢 Theo。我最近还在用 T3 Code,感觉很棒。)他以前用其他模型构建过一套处理系统,正在告诉我,要让它正常运行有多复杂。我开玩笑说,那我直接让 Astra 做不就行了。 两个提示词之后,它就完成了一套系统:把旧线程移到云端,删除本地副本;当我在 Codex 中点击线程时,再把它载入回来。它一次就做对了。因为前面刚好聊过这个问题,整个过程尤其好笑。
和模拟文明相比,这个项目很容易被忽略,但我很喜欢。我的配置里有件事一直让人烦,我说出自己想要什么,现在它就按那个方式运行了。我同时启动了足够多的智能体,以至于它们开始给电脑制造新问题;然后我又让同一批智能体去解决这些问题。
你能负担多少工作?
磁盘空间问题只是我公寓里一幅荒唐场景的一部分。测试期间,厨房岛台上摆着一台 Mac mini,咖啡桌上放着三台风扇狂转的 MacBook Pro,主力 Mac 负责盯住其他机器。另外还有一台云端机器,也被我塞进了过多智能体。如果你见过我说自己同时使用五台 Mac,并好奇我到底他妈在干什么,答案就是这个。
我不断撞上内存限制,于是把一部分工作从 Codex 应用切换到终端,因为终端占用的内存更少。我甚至安排智能体监控机器的内存和磁盘空间,好让其他智能体继续工作。到了某个节点,你不得不欣赏其中的荒诞:雇一个 AI 来维持电脑健康,只为了能继续雇更多 AI。
我们需要更好的运行方式。我想要能承担这些工作的云端电脑,以及一套直接管理智能体的方法。从把工作交给一个智能体,到不得不再找一台笔记本,这之间的体验还有很大改进空间。
显然,使用 Astra 不需要让公寓里摆满电脑。我只是同时运行了许多实验,想知道它能做到什么。真正工作时,我一般宁可集中精力把较少的项目做得很好。但如果拥有更多容量,我本来可以运行更多实验。考虑到当时公寓里已经发生的一切,这个想法甚至有点让人反应不过来。
这些模型越强,我们就越有理由运行更多实例。多一个智能体,就能接手另一块实质性工作,而你维持它有效运转所需投入的注意力也更少。
我知道这听起来很疯狂,但我坚信,一年后的我们每个人都会使用今天数百倍的 Token。
你仍然需要判断力和良好的协调。把一群智能体扔进项目,不会自动改善结果。但通过 Manager Loop 这样的方案,我开始看到自己可以用一个请求发动多少工作。你能负担多少模型用量,也因此变得重要得多。
两个人使用完全相同的模型,实践中可能拥有非常不同的能力。一个人或许必须精打细算,一次只能处理一个项目。另一个人则可以让智能体同时运行多个大型项目,尝试不同方法,再持续投入那些更有希望的方向。随着智能体能力提升、所需监督减少,我预计这种差距会继续扩大。
这开始很像雇人。有钱雇 20 个人,会带来独自工作时不存在的选择。智能体让更多人可以获得这种帮助,这确实令人兴奋。但“只能负担一点帮助”与“想用多少就能负担多少”之间,仍会存在巨大差距。
我既兴奋,又感到不安。过去请不起工程师的人,现在能让真正的软件被做出来;与此同时,预算大得多的人可以在完全不同的规模上使用同一项技术。更便宜的智能可能扩展几乎每个人能做的事情,同时又拉大他们之间的差距。
写这篇评测时,我还不知道 Astra 的发布价格,而且这些过度的实验显然不是合理的日常配置。但这正是我认为 Token 成本会如此重要的原因。如果智能体可以在越来越有野心的项目上持续取得有用进展,你的预算就会开始决定,自己能同时让多少工作发生。
消耗更多 Token,也意味着你有更多机会学会如何有效使用它们。你可以尝试更多想法,发现哪里会失败,找到原本不可能发现的方法。Manager Loop 正是从这种实验中产生的。能负担更多实验的人,也很可能逐渐获得更有效使用模型的优势。
Astra 让我再次看见了那个世界。现在的配置仍然需要一些工作,我相信我们会找到更好的系统协调方式。今年年初时,我还会为“输入一个提示词,过一会儿回来看到完整 SaaS 应用”而惊讶。但我们已经走过那个阶段了。如今,你可以输入一个提示词,回来时看到一个项目取得了实质性进展,而这个项目过去甚至会被认为对一支人类团队来说都颇有野心。