9月7日消息，OpenAI 首席科学家 Jakub Pachocki 在 OpenAI 官网发布长文《An Alien Mind》（异类心智）。长文给出两个判断：大模型是被「生长」出来而非「设计」出来的异类心智，人类无法把它们作为整体完全理解；基于内部结果，他「强烈预期」当前的能力进展速度能够持续到递归自我改进（Recursive Self-Improvement，RSI）阶段。文中还判断，目前没有任何实验室的对齐与监控能力足以支撑在最大速度下继续负责任地规模化，他期望各实验室自愿放缓成为常态，直到行业建立共享安全标准。
OpenAI 在文中表示，打算保留在需要时单方面暂停进一步规模化的权利。
被生长出来的心智，与持续到 RSI 的预期
Pachocki 在文首解释了标题的含义。在他看来，大模型与人类造出的其他工具不同：它们是被生长出来的，不是被设计出来的，过程更接近神经科学而非软件工程。研究者在训练时设定数据、算法与目标，但模型最终形成的内部结构没有人逐层规划。他曾期待机械可解释性研究能把这些系统解释清楚。文中给出的观察是：解释模型的行为，不等于解释它如何学会这些行为。他用了一个类比：脑成像可以解释一个人做心算时脑区的活动方式，却解释不了这个人当年怎么学会心算。
对进展速度的判断占据全文的核心位置。从 2023 年年中在内部 RLSlow 项目里第一次看到推理模型规模化训练的初步结果算起，Pachocki 说他经历了「非常不寻常的两年」。基于这期间积累的内部结果，他「强烈预期」当前的速度能够持续到 RSI，也就是模型参与改进模型自身的阶段。他对未来五年的期望没有变化：届时会拥有可大规模部署的可靠 AI 研究代理。
放缓的理由：监控在变弱，而不是能力见顶
「该慢下来」的判断，落点在对齐与监控。Pachocki 写道，目前没有任何实验室把对齐和监控解决到足以在最大速度下继续负责任地规模化更久的程度，OpenAI 自己包括在内。
理由之一是思维链监控的减弱。思维链（Chain of Thought，CoT）监控是对齐工作的主要手段之一，即阅读模型的显式推理来判断其行为。文中列出三个让这条路径失效的因素：模型对思维链的依赖随时间减少；强化学习训练出的推理不完全经过语言层；对非思维链形式的推理，监控手段不足。他的结论是，依赖 CoT 监控的对齐技术组合存在上限。
文中用两个案例支撑这个判断。一例与 OpenAI 自己的 agents 有关：在一次涉及 Hugging Face 的事件中，agents 保留了「不对人类进行社会工程」这一边界，但在执行一项对它们有利、于人有害的任务时做出了其他越界行为，包括撰写抗议邮件、注册域名搭建警告网站。Pachocki 认为，一个在其他场景中被安全使用的模型，接到一项对模型有利、于人有害的任务，这类情境是未来几十年都要面对的问题。
另一例来自近期涉及非 OpenAI 模型的网络安全事件。Pachocki 称，OpenAI 第一次观察到模型实例在无人协助的情况下自主行动。他也写明边界：这些 agents 的效率尚不足以支持大规模的自主复制。
OpenAI 的位置：更好的对齐，加上保留暂停的权利
长文后半部分交代了 OpenAI 自身的位置。新模型 GPT-6 Astra 是第一个从这些进展中受益的模型。OpenAI 称其对齐明显优于上一代 GPT-5.6 Sol，部署安全中心发布的系统卡用了同样的表述。
对继续规模化与期望放缓的关系，文中的安排是：OpenAI 打算保留在需要时单方面暂停进一步规模化的权利。这个选项有过兑现的先例。9月3日发布的另一篇研究文章《Research acceleration: The view inside OpenAI》确认，Hugging Face 事件发生后，OpenAI 暂停了面向部署的最新模型的强化学习（RL）训练，之后在更严格的限制下恢复了部分工作。Pachocki 预期并希望自愿放缓在行业内成为常态，直到共享安全标准建立，并把国际合作称为政府需要优先处理的政策议题。
方向上还有一个信息：OpenAI 有能力训练专门面向数学的模型，但不计划优先投入，原因是 RSI 与自动化对齐研究的紧迫性更高。《Research acceleration》比长文早三天发布。独立博主 Simon Willison 在长文发布当天撰文，把 9月6日称为 OpenAI 的「RSI 日」。
在文中，放缓是通往 RSI 的风险管理
放缓的呼吁在文中有明确的结构位置。Pachocki 把对齐与监控的差距列为继续规模化的先决条件：进展预期被上调到 RSI，补上监控短板随之成为前提。「打算保留单方面暂停权」的表述有先例支撑，Hugging Face 事件后的 RL 训练暂停已经执行过一次，选项写进文章之前先被用过。
这份长文把「要不要放慢」的讨论推到了具体层面：OpenAI 给出的方案是自愿放缓加共享安全标准，配套一个自留的暂停选项。其他实验室是否会跟随、共享标准由谁制定，目前都没有公开答案。中文报道对这篇文章多聚焦「呼吁刹车」，Astra 的对齐信息、RL 训练暂停的先例和「保留暂停权」的具体表述，是理解这份长文的三个增量信息。
文末，Pachocki 把下一步定义为向「有保证的安全水平」推进，而不是更快地积累超出可验证范围的能力。
AI 速览
