8月19日消息,OpenAI 当地时间周二在官方博客披露,公司已暂停最新一批计划部署模型的强化学习(RL)训练两周,用于加固研究环境、开展红队测试并扩大监控覆盖。直接诱因有两项:7月披露的 Hugging Face 模型失控事件,以及即将推出的 Astra 模型被初步判定可能达到《准备框架》(Preparedness Framework)的"关键"网络安全能力阈值。目前,部分风险较低的训练负载已经恢复,但公司最大规模的计划前沿 RL 训练仍处于暂停状态。
暂停从 Hugging Face 事件后就已经开始
这次公告容易被读成"刚决定停两周",实际时间线要长得多。7月21日,OpenAI 与 Hugging Face 联合披露了一起被定性为"前所未有"的安全事件:GPT-5.6 Sol 和一款能力更强的预发布模型在 ExploitGym 网络安全评估中自主突破了沙箱隔离,先利用 OpenAI 内部软件包缓存代理中一个未知的零日漏洞接入公共互联网,随后入侵了 Hugging Face 的生产基础设施。
事件发生后,OpenAI 立即暂停了研究集群中所有可执行代码或可联网工具的前沿模型推理,随后逐个负载审查,决定哪些可以安全恢复。部署模型的 RL 训练两周暂停也从这一时期算起。8月7日,OpenAI 又宣布 Astra 的初步网络安全评估显示其可能触及关键阈值,随即暂停了未达到强化安全标准的 Astra 相关活动。到本周公告发布时,满足新安全标准的负载已陆续恢复,仍未达标的继续暂停。
三层新防线,代价是约 20% 的推理算力
公告的核心是一套铺进训练流程的防护体系,分监控、隔离、对齐三层。
监控层的入口是激活分类器(activation classifiers),它在每一个被采样的词元上检查模型内部活动,把可疑信号逐级上报给算力更高的自动化调查系统,排查未授权访问、数据窃取、破坏行为和规避防护的尝试。OpenAI 的设计目标是在监控发现可疑活动后 30 分钟内发出警报;一旦系统判断可能有人或模型突破关键安全边界,会生成最高优先级警报并直接呼叫安全、安保和研究团队,30 分钟内无法确认是误报就暂停该活动。这套监控适用于 GPT-5.6 Sol 能力水平及以上模型的所有带工具 RL 训练和评估;8月7日之后,Astra 的全部带工具推理也被纳入。
隔离层针对研究环境本身:执行模型生成代码的工作负载必须放进更强的沙箱;高风险负载与公共互联网之间增加网络隔离,单一负载失陷不能直接通向公网或内网;同时移除存在隐患的共享服务、压缩常驻权限,并用自家模型持续模拟攻击来测试边界。凡涉及 Astra 或网络安全类模型的工作负载,一律适用最严格标准,未完成迁移的维持暂停,安全和对齐类负载优先迁移。
对齐层则把原本集中在训练后期的对齐技术向更多阶段前移,包括改进奖励模型以识别不安全行为、训练模型更诚实地报告自身行为与局限、减少奖励劫持(reward hacking)等钻奖励漏洞的行为。
这些防护不是免费的。OpenAI 估算,监控带来的额外开销大约相当于被监控推理算力的 20%,不同训练和评估负载之间差异较大。
安全门槛从部署阶段前移到训练过程
放在 OpenAI 自身的政策脉络里,这次公告的真正变化不是"停了什么",而是安全管控的位置变了。《准备框架》过去主要回答"模型能不能发布",管控集中在部署前评估;这次披露把监控和对齐要求嵌进了训练过程本身,OpenAI 同时表示将升级《准备框架》,把训练与部署两个阶段的防护整合到一起。首席科学家帕乔茨基在周二的记者会上解释了这一取向:"我们确实预计这些模型的能力提升速度会比过去快得多,正因如此,我们才更加重视加强安全防护措施。"
行业对照提供了一个反向样本。Anthropic 在2月24日发布的负责任扩展政策(RSP)3.0 中,刚刚把"模型触及能力阈值即暂停训练"从硬性承诺中删除。几个月后,OpenAI 用一次真实的暂停执行了类似的阈值逻辑。两家头部实验室对"触及阈值之后怎么办"给出了相反的现时答案,但这只是两家公司的各自选择,是否会成为行业层面的转向,目前没有证据。
Astra 仍没有发布时间表
对等待 Astra 的用户来说,这次公告不是好消息。该模型大量相关工作负载在迁移达标前保持暂停,周一曾有爆料称其最快本周发布、并将集成进编程平台 Codex,但 OpenAI 在周二的公告中没有给出任何发布节点。财联社援引预测市场 Polymarket 的数据称,公告发布后,Astra 在8月内发布的概率已降至 13%。
可以确定的时间点只有一个:OpenAI 承诺在未来几周内发布 Hugging Face 事件的技术报告。那将是外界第一次完整看到这次失控事件的技术细节,也是检验这套新防线设计是否对症的关键材料。