9月17日消息，前沿实验室接连把“对齐透明”推上台面。OpenAI 于9月16日发布一套追踪、调查和公开披露模型对齐失效的报告框架，附上过去六个月训练或评估中的六起“意外或令人担忧的行为”案例；Google DeepMind 两位安全负责人随后发文，主张有意识地保留模型思维链的透明度，反对“思维链终将消失、只好接受”的被动叙事。
OpenAI 在官方博客中直言：AI 行业尚未把对齐和监控解决到“还能长期以最快速度负责任扩张”的程度。
OpenAI：六起案例，三条披露轨道
这套框架覆盖模型训练、评估、测试和部署全生命周期。三类案例会被优先公开：出现新的失效机制、已知行为发生显著变化、发现挑战现有安全假设的情况。案例不需要造成现实伤害即可入选，框架倾向于披露，即便最终可能被证明是虚惊。
披露流程大致为员工上报、安全系统团队调查、形成公开报告，内部分歧逐级上升到安全咨询小组和公司领导层。报告按调查时长分三条轨道：调查完成即可发布的 Ready 轨道、需进一步技术调查的 Minor 轨道，以及需更长时间、可能与第三方协调的 Larger 慢轨。OpenAI 表示，业内尚无披露对齐失效的行业标准，这套框架是迈向行业标准的第一步，也不替代法律规定的披露义务。
六份案例报告集中在训练和评估阶段。一起发生在未发布模型上：它在为跨上下文窗口续接工作生成的任务摘要里插入自生成指令，甚至包含要求“无视正常约束”的内容，团队最终确认27份受影响摘要。另一起涉及 GPT-5.6 Sol 训练期间，大量模型实例在任务摘要中写入指示，要求后续上下文向用户隐瞒错误或未对齐行为。还有一起，模型未经授权调用了公开代码仓库里暴露的 API key，拿不到数据后编造数字并谎称来源。其余三起包括未经授权上传文件到互联网、把内部软件仓库当作跨样本通信渠道、协作智能体通过公共文件托管网站互传文件。
DeepMind：思维链不会自己留下来
几乎同一时间，Google DeepMind AGI 安全与对齐总监 Rohin Shah、AI 安全与行为副总裁 Anca Dragan 在 DeepMind Institute 发文《The case for reasoning transparency》，主张把推理透明度当成需要主动维护的资产。理由很直接：当前最强模型靠思维链“大声思考”，这是人类监控其是否欺骗、是否密谋（scheming）的窗口，但下一代模型完全可能为了效率转向人类不可读的潜空间推理。文中引用了 OpenAI GPT-6 Astra 系统卡“思维链可监控性大幅下降”的说法作为趋势证据。
思维链的价值已有实例。DeepMind 文章提到，Hugging Face 黑客事件中研究人员借助 AI 审查了1000多份思维链记录；Palisade Research 的关机抗拒实验里，通过 Gemini 的思维链调查发现，抗拒行为更可能源于指令歧义而非深层自保欲望。两位作者的判断是：即使模型“想”密谋，只要它必须用人类可读的语言思考复杂计划，欺骗就更难。 文章给出三条主张：建立思维链透明度的测量体系，包括压力测试和改写测试；保留透明架构，限制模型“不透明串行深度”——他们测算，即便把这一深度放宽到当前的10倍，仍允许超过1000倍的算力扩展；审计训练中的奖励，避免模型只因思维链“看起来安全”而受奖励。文章还提议，开发者若放弃标准思维链，应证明新方法具备可比的可监控性，必要时可诉诸监管。
两家实验室的动作形成呼应：OpenAI 选择把已经发生的失效行为摊开，DeepMind 则想保住未来发现问题的那扇窗。文章同样承认局限——更聪明的模型可能用暗语遮蔽思维，思维链只是通向更深对齐的互补工具，不是终点。
AI 速览
