9月22日消息,OpenAI 宣布与一个独立的「数学与人工智能顾问小组」(Advisory Group on Mathematics and Artificial Intelligence)合作。小组由 9 位数学家组成,包括 Timothy Gowers、Martin Hairer、Edward Witten 三位菲尔兹奖得主——Gowers 正是上周那封 25 人公开信的签署者之一。公告发布于 OpenAI 与数学界关系紧张之际:此前 OpenAI 宣称其模型解决了 Navier–Stokes 方程这一千禧年大奖难题,并被两位数学家指控「抢跑」。公告写明,小组可以公开建言,但其职责不包括建议 OpenAI 放慢内部进展。
公告背后:一个被宣称解开的千禧年难题
按 OpenAI 在公告中的说法,公司 8 月 28 日开始训练一个新的内部模型。除了解决 Navier–Stokes 千禧年大奖难题,这个模型已经解决了 100 多个横跨数学大多数领域的长期未决问题,其进展速度让 OpenAI 内部的数学家感到惊讶,也引发了内部讨论:如何以最佳方式把这些成果告知数学共同体,让领域有时间准备和适应。
Navier–Stokes 正是争端起点。NYU 数学家 Tristan Buckmaster 与 Levent Alpöge 公开发表了三项相关结果,并指控 OpenAI 的模型不当获取了他们的工作成果;项目负责研究者 Sebastien Bubeck 否认模型接触过两人的数据。OpenAI 后来表示不会去申领这道难题的 100 万美元奖金;目前,两位数学家未撤回指控。
从 25 人公开信到 Tao 拒签
冲突在 9 月中旬公开化。一封题为「A Severe Misalignment of AI in Mathematics」的公开信汇集了 25 位数学家的签名,TechCrunch 报道称其中 24 人是菲尔兹奖得主;信中的核心担忧是,把解决未决问题当作新 AI 系统的基准,会给数学研究带来负面外部效应。OpenAI 自己也在公告中引用了这封信。
陶哲轩(Terence Tao)没有签名。他在博文「Why I didn't sign the Fields medallists' letter」中解释了拒签理由:担心公开信会让数学共同体陷入严重分裂。签署者名单里有 Timothy Gowers——如今他出现在顾问小组的成员名单上。
九人小组与画出的边界
顾问小组的九名成员来自欧美主要数学机构:François Charles(巴黎高等师范学院)、Camillo De Lellis(普林斯顿高等研究院)、Timothy Gowers(法兰西公学院)、Martin Hairer(洛桑联邦理工学院)、Nikhil Srivastava(加州大学伯克利分校)、Ulrike Tillmann(牛津大学)、Ravi Vakil(斯坦福大学)、Edward Witten(普林斯顿高等研究院)与 Melanie Matchett Wood(哈佛大学)。Witten 是 1990 年菲尔兹奖得主,也是极少数以物理学工作获得该奖的数学家。小组的职责有三块:就新兴成果的重要性评估与发布协调提供建议,维护学术与专业标准,以及就工具如何支持数学研究与学习给出意见。
独立性条款共有六项。小组独立于 OpenAI 运作,可以主动提出没有被征求的建议,可以公开评论 OpenAI 对数学的影响,也可以公开自己的建议内容;成员不从 OpenAI 领取报酬,小组可自行变更成员。公告同时画出了边界:小组的职责不包括建议 OpenAI 放慢内部的数学进展。OpenAI 把这次合作称为「第一步」,定位是数学共同体与公众之间的桥梁。