9月14日消息,OpenAI CEO Sam Altman 发帖称,给出 OpenAI 对「给前沿定节奏」的完整立场。他把 pacing(节奏控制)定义为减缓而不是停止,宣布 OpenAI 在预期显著提升能力的前沿强化学习运行之前制定显式的安全论证,并表态欢迎联邦制定统一的前沿 AI 安全要求框架,同时认为无需等待反垄断豁免或立法出台即可开始这项工作。帖文没有提到中国。此前 9月12日,Altman 公开表示同意 Anthropic CEO Dario Amodei 的放缓主张,并承诺 OpenAI 同样设立员工级访问权限的独立评估者。
节奏控制不是停止
Altman 在帖中写道,谈论 pacing 时不意味着 stopping,进展一直迅速并将继续迅速,但速度应比原本可能达到的程度稍缓;安全论证与监控这类干预措施会带来显著成本,而这个成本值得付出。他给这套安排的开场理由是,世界有理由相信开发日益强大 AI 的美国公司会负责任地行事,每一家前沿实验室都必须做到这一点,「如果我们无法做到,就没有任何理由继续开展工作」。
竞争与安全,两份文件的次序相反
9月12日,Amodei 在《We Must Pace the Frontier》里给出的前提是,民主国家放慢的幅度不能超过对威权体制的领先幅度,否则中国的 AI 项目会跑到前面;他列出三条保住差距的措施,预期在 3 至 5 年窗口扩大领先,并称这些措施增加民主国家的筹码,未来协议达成的可能性上升。
Altman 这条帖子的次序不同。他写的是,来自美国的竞争压力不构成鲁莽行事的理由,能力提升不应超越对齐与监控的进度。在这句话里,安全是约束竞争的变量,而不是被竞争规定幅度的结果。帖文通篇没有出现中国,未提及任何国家。
稍后,Altman 引用自己这条帖另发一帖,列出 AI 进展可能变糟的两种方式。一是人类失去对未来的控制,他写道这不可接受,并称自己站在人类阵营一边,AI 必须服务于人,为此需要让对齐与安全技术领先于模型能力的进步;二是一个人或一家公司用强大到极点的 AI 把世界观强加给所有人,他形容这种结果可能极为反乌托邦。规避这两大威胁需要走一条狭窄的中间道路,他举的例子是一个国家可能获得过多权力,以及一家实验室握有过多权力。
安全论证被放到强化学习运行之前
Altman 对自家旧框架的评价是,多年前的 Responsible Scaling Policies 与 Preparedness Frameworks 适合当时,重点是已完成模型的部署,不是开发过程中发生的事。
新工具是把安全论证提前。他写的是,OpenAI 现在会在预期显著提升能力的前沿强化学习运行之前制定显式的 safety case,此外,OpenAI 在模型发布前长期执行安全工作。他希望其他公司借鉴这些做法,提出自己的方案,认为针对失准、监控与安全的共享标准能改善结果。
这套表述把安全动作从发布环节移到了训练环节。帖文没有给出门槛数值、适用范围或核验方式。
不等立法,先做自己能做的部分
Altman 写的是欢迎联邦制定统一的前沿 AI 安全要求框架,但不认为这项工作需要等待反垄断豁免或立法出台。他把管理前沿风险以最大化收益的一致规则称为好主意,并对独立审计这类构想表示振奋。
对国际协调,他的表述是需要政府协助的领域在国际协调,但首先应做自己能做的部分。帖文没有提到协调对象、时间表或机制。
立场给出,机制停在路上
9月12日那条帖子里,Altman 承诺过「我们也会做同样的事」,指给独立评估者员工级访问权限,并表示后续有内容要公布。9月14日的长帖没有补充这项承诺的落地安排,safety case 机制没有第三方核验。
把两条帖子放在一起,OpenAI 在这轮讨论里给出的动作集中在开发阶段:安全论证移到训练之前,评估者进到公司内部。这套安排的成色要看落地细节,而细节目前是空的:safety case 的适用范围没有公开,独立评估者的入选没有下文,其他前沿实验室是否提出可比方案没有消息。面向公众的部分写完了,可以核验的部分没有开始。