一、二十二个人的署名

2026 年 9 月 28 日，剑桥大学「AI 科学与政策项目」（CASP）发出《前沿 AI 工作论文》第 2 号，题目是一个问句：如果 AI 研发的自动化触发一场智能爆炸，会怎样？正文十四页，署名二十二人。

名单本身就是新闻。辛顿与本吉奥在列，这不意外；强化学习奠基人巴托在列，他在 2025 年与萨顿共获图灵奖；OpenAI 首席科学家帕乔基在列，Anthropic 联合创始人杰克·克拉克在列，署名单位同时挂着 Anthropic 的经济学家科里内克在列，微软首席科学官霍维茨在列。伯克利的宋晓冬（Dawn Song）署名栏只写了伯克利，但她 6 月 25 日已自己宣布加入 Meta 超级智能实验室，出任 AI 研究副总裁。四家前沿公司里做研究的人，和学界最资深的那几位一起，在同一份文件上签了名，请政府来盯住这件事。

论文的第一句话写得很平：

这句话放在一年前像预言，放在 2026 年秋天只是陈述。论文要回答的是下一步：当越来越多的研发工作交给 AI，AI 的进步会不会自己加速，加速到把原本要花几年的进展压进几个月甚至更短？作者们给这种情形用了一个老名字——智能爆炸。英国统计学家古德在 1965 年的一篇文章里提出这个设想：第一台超智能机器，将是人类需要发明的最后一台机器。此后六十年，它一直待在思想实验里。

论文的结论分三层。第一层，初步证据显示这种加速可能发生，但证据有限，有时互相矛盾，有时只是间接的。第二层，一旦发生，好处会被大幅提前，风险也会被大幅提前：能力增长甩开社会适应的速度，人类对超人系统失去监督与控制，国家之间、公司之间、政府各部门之间原有的权力制衡被侵蚀。第三层是给政策制定者的三件事：先拿到可见性，看清前沿公司内部研发自动化到了哪一步；再准备好驾驭与约束的手段；最后让社会提前为冲击做好准备。

第一作者、GovAI 的艾伦·陈（Alan Chan）在 9 月 29 日华盛顿的一场简报会上把话说得更直。据《财富》报道，他说不能完全信任公司自己来报告模型的安全状况，又说其实还没有足够的人才去做审计。另一位作者萨姆·曼宁在发布当天的帖子里写：由于证据仍不确定，他个人对研发自动化究竟会把 AI 进步提速多少，感到不确定。

质疑也随之而来，而且早有预备。在不少人看来，造模型的人联名呼吁监管，本身就值得多看一眼——门槛一旦立起来，最先跨过门槛的，往往正是写门槛的人。9 月 23 日本吉奥在联合国安理会发言时，已经替这类怀疑开了口：许多人怀疑这些公司的说法是营销噱头，他理解这种不信任，但这些 AI 行为已被许多独立专家记录和验证。

这篇文章不替任何一方背书，只追一个问题。论文的核心论证落在一个数上：研究回报率，记作 r。r 大于 1，加速可以自我维持；r 小于 1，加速自行熄灭。这个数从哪里来、有多可靠、谁有资格去读它，决定了这份二十二人的文件到底是预警，还是修辞。

二十二个签名

二、四把尺子量的不是一件事

要谈加速，先得知道自动化走到了哪一格。公开数据里有四把尺子，最常被混在一起用。

第一把，代码占比。Anthropic 6 月的文章《当 AI 造它自己》给出：截至 2026 年 5 月，并入 Anthropic 代码库的代码超过 80% 由 Claude 写成；2025 年 2 月 Claude Code 以研究预览形式发布之前，这个比例只有个位数。论文开篇那句「大部分代码」，依据主要就是它。

第二把，任务主导率。Anthropic 研究院 9 月 17 日发布的度量文章，借用 Epoch AI 的 AL0 至 AL5 分级，把模型研发工作拆成一棵冻结在 7 月的任务树，逐月回溯打分。结果是：2026 年 8 月，Claude「主导」（AL4）了 26% 的模型研发任务，2 月这个比例还不到 1%；「协作」及以上（AL3 以上）超过 90%；完全自主的 AL5，在任何被测子集里都是零。

第三把，任务时长。评测机构 METR 测的是：AI 以 50% 的成功率能完成的任务，换成人类专家要花多长时间。按其 2026 年 1 月发布的 1.1 版数据，这个时长自 2019 年以来约每 196 天翻一番，2024 年以来缩短到约每 89 天翻一番。2026 年 3 月测到的最高值来自一款早期预览模型，至少 16 小时，置信区间从 8.5 小时到 55 小时。CASP 据此外推：到 2028 年年中，AI 或能完成需要人类专家数月的任务，而这正落在许多 AI 研发项目的长度范围之内。

第四把，智能体工作量。OpenAI 9 月 6 日的博文写道：8 月中旬，研究部门每投入一个人类工作日，就同时投入 3.1 个智能体工作日；6 月之前，智能体的总运行时长还低于人类。中位数研究员每天消耗的推理，按 API 牌价折算超过 600 美元；第 90 百分位的用户超过 7000 美元。公司宣布已在 9 月达成去年秋天定下的「自动化研究实习生」目标，下一个目标是 2028 年 3 月的「自动化 AI 研究员」。

四个数都在涨，也都很陡，但它们量的不是一件事。代码占比量的是产出里谁动的笔，一行样板代码和一行改写训练配方的代码权重相同。任务主导率量的是组织分工里谁坐主位，评分者是 Claude 自己，它与人类评分的完全一致率是 59%，人与人之间只有 35%——这说明任务本身难评，不说明评得准。任务时长量的是单次能力的上限，而且取在 50% 成功率这道门槛上，换成 80% 的门槛，时长会短得多。智能体工作量量的是投入，不是产出：3.1 个智能体工作日换回多少研究进展，OpenAI 自己也说，总体进度很可能跟不上这些具体指标。

没有一把尺子直接量到论文真正关心的东西：研发效率的提升，会不会反过来加速研发效率的提升。这需要第五个数，而第五个数不在任何一家公司的公开报告里。

四把尺子

三、一个大于 1 的数

智能爆炸的机制，论文画成一个两段的环。第一段，AI 的研发能力越强，等效的研发劳动力就越大、越快；第二段，更大的研发劳动力造出更强的 AI，再去扩充劳动力。环本身不新鲜——更好的芯片带来更好的芯片设计工具，技术史上处处是这种环。新的是环里 AI 自己贡献的份额：当 AI 在越来越多的研发任务上替代人，每一次软件进步，就会加速研发管线里越来越大的一部分。

环转得起来，还是越转越慢，取决于两种力量谁更强。一边是研发劳动力的增长；另一边是递减回报——容易摘的果子摘完以后，同样的进步要花更多人力。经济学里描述这种拉锯的标准写法来自斯坦福经济学家查德·琼斯：技术水平的增速，取决于研发投入的多少，也取决于「想法越来越难找」的程度。两个指数之比，就是研究回报率 r。

r 小于 1，递减回报占上风，进步逐渐消退；r 等于 1，两股力量恰好抵消，进步匀速；r 大于 1，劳动力增长胜出，只要条件维持，进步就会加速。

这里有一个关键的替换。在人类主导的研发里，研发劳动力是人头数，增长受出生率、教育和移民所限，几十年才翻几番。在完全自动化的研发里，研发劳动力是能同时运行的 AI 研究员数量，而软件效率每提高一倍，同样的算力就能多跑一倍的研究员。软件水平于是变成了它自己的投入——这正是「递归」二字的经济学含义。

那么 r 是多少？论文的依据，是 Epoch AI 研究员安森·何（Anson Ho）与帕克·惠特菲尔（Parker Whitfill）2025 年 11 月的估计。他们用历史数据回归了三个 AI 子领域：计算机视觉的 r 中位数约 1.26，强化学习（雅达利游戏）约 1.20，语言模型约 1.89。三个都大于 1。论文由此推出：

换一个方向看这个数，会更直观。论文写道：如果前沿公司的研究员少十倍，或者慢十倍，AI 的进步多半会急剧放缓。没有人会怀疑这一点。那么反过来，研究员多出十倍、快出十倍，进步为什么不会急剧加快？智能爆炸论的全部力量，在于把这个对称性认真对待。

这笔账的弱点，也在同一处。1.26、1.20、1.89 都是中位数，它们的 90% 可信区间分别是 0.73 到 2.09、0.38 到 2.71、1.07 到 3.21。三个区间里，只有语言模型那一个整体落在 1 以上，另外两个都跨过了 1。按同一份数据，r 小于 1、加速自行熄灭，同样在可信范围之内。

同一组数，取中位数读出的是爆炸，取区间读出的是悬案。论文作者们并非没看见区间，他们在附录里专门写了一节「回报率的不确定性」。只是转述链越往下走，区间越容易被剪掉，剩下一个干净的「十七个月」。

复利的曲线

四、四道摩擦

论文自己列了四道摩擦，逐一评估证据。这一章值得细看，它比论文的结论更接近真相的形状。

第一道，递减回报。想法越来越难找，是经济学里证据最扎实的规律之一。琼斯与布鲁姆等人 2020 年发表在《美国经济评论》上的研究发现：要让芯片密度按摩尔定律翻一番，所需的研究人员是 20 世纪 70 年代初的 18 倍以上；农业和医药研发里是同样的图景。r 就是用来量化这道摩擦的，它已经算进上一章那个数里了。

第二道，算力。这是四道里争议最大的一道。找到并测试一项软件改进，要用算力跑实验；如果实验的算力需求随前沿训练规模同比增长，AI 研究员再多，也只能排队等 GPU。惠特菲尔与谢丽尔·吴 2025 年的论文，用四家实验室、27 个公司年份的数据做了估计：在基准模型里，算力与研究劳动可以互相替代，替代弹性约 2.6；换成「进步依赖前沿规模实验」的模型，两者几乎完全互补，弹性接近零甚至略为负值——这时单靠认知劳动的增长，可能不足以驱动爆炸式进步。数据点很少，作者在脚注里承认，估计可能错得很离谱。

更锋利的一刀，出自论文自己引用的那篇文章。安森·何与惠特菲尔在同一篇文章的技术附录里写明：如果把实验算力当作一种独立投入，按标准的柯布-道格拉斯形式处理，算力弹性取约三分之二，那么他们所有的估计都应当砍掉三分之二，这样一来，全部落到 1 以下。

第三道，数据。按已有的测算，互联网文本的增长速度撑不住 2028 年以后的进步节奏。近两年数学和编程上的突破，走的是另一条路：模型自己生成尝试，再从可验证的对错里学习。AI 研发恰好是可验证程度最高的领域之一——改一个训练配方，跑一下，看损失降没降。依赖真实世界反馈的领域，比如生物学，就慢得多、贵得多、噪声也大得多。所以数据这道摩擦，对 AI 研发本身相对宽松，对 AI 溢出到别的学科则紧得多。

第四道，时间。有些研发环节急不得。一次前沿训练要跑三个月甚至更久，研究员再多，也不能让一次训练提前结束。牛津哲学家托比·奥德 8 月的论文把这一点推到了数学上：只要「代际时间」——从一代模型到下一代所需的时间——不能趋近于零，就不会出现真正意义上的奇点式增长，最多是一种快于指数、却没有垂直渐近线的增长。可能的绕道，是在同一个模型上反复做后训练增强，或者靠训练效率的提高把同等能力所需的训练时间压短；能走多远，论文坦言不知道。

第五道摩擦论文没有单列，却贯穿了附录：那几个 r 值，本身是从一个算力高速扩张的时期估出来的。过去几年，软件进步与算力扩张绑在一起发生，有些软件改进只在大算力下才显出威力——Transformer 架构在高算力下优势巨大，在低算力下优势很小。把这段时期的进步全记在软件头上，会高估 r；放到算力固定或增长放缓的世界里，r 会比历史数据显示的更低。

附录也列出了让 r 偏高的理由。现有估计大多只算预训练，没有算后训练和工具脚手架的改进；而「研究员数量」这个度量，可能低估了能力提升的价值。这一正一反谁更大，论文的回答很老实：需要更多数据。

四道摩擦

五、降温派的账

论文发布前后，降温的声音来自三个方向，都不是外行。

第一个方向，来自造模型的人。OpenAI 研究员诺姆·布朗 9 月 17 日在德瓦克什·帕特尔的播客里给出的数，是大约 3 倍的加速，不是一夜之间 100 倍；瓶颈在于实验只能一个接一个地跑，以及 GPU。他明说这一点与主持人有分歧，也承认自己可能错。OpenAI 9 月 6 日的博文给出了同向的细节：在 4 到 8 小时的研发任务里，成功完成的任务有一半以上，中途需要人工干预一次或多次。博文里还有一句话：

第二个方向，来自从现有系统出发算账的人。拉梅兹·纳姆 9 月 27 日在诺亚·史密斯的通讯上发文，不预设 AI 已在所有方面达到人类水平，而是从现有系统的数据和扩展规律往上推。他的结论是：按已有的最好数据，AI 自我改进的环还需要强 5 到 10 倍，才能自我维持，更不用说失控加速。奥德转发时特意提醒看好智能爆炸的人，去认真对付这篇文章。

第三个方向，来自测基准的人。普林斯顿的萨亚什·卡普尔与阿尔温德·纳拉亚南 8 月的研究发现，前沿模型还解决不了耗时数周、开放式的 AI 研究问题，原问题的提出者对智能体的产出给出了明确否定。论文自己也引用了另一项结论：许多通过 SWE-bench 测试的代码修改，并不会被真正合进主干。

论文对这些并不回避。它援引汤姆·坎宁安等人 7 月的研究《递归自我改进的经济学》，给出的判断是：AI 研发自动化带来的生产率提升，尚未达到触发智能爆炸所需的门槛，但更新的系统，很可能正在接近这道门槛。

反方向的修正也有。安森·何后来又撰文说，此前的估计依赖每年约 3 倍的软件进步率，他改口认为更接近每年 10 倍；照此修正，相关参数会上调数倍，软件驱动的爆炸会变得可能得多。同一篇文章里，他又说自己仍然怀疑「一年五个数量级软件进步」这类说法。

把这几方摆在一起，分歧的形状就出来了：没有人认为 r 已经被测出来，所有人都在争论一个还没测出来的数，应该先假设成多少。降温派的账和加速派的账，用的是同一张资产负债表，只是对一项尚未入账的科目估值不同。

降温的账本

六、两千万个研究员

论文里最容易被转述走样的，是「数百万顶尖研究员」这个说法。

它的算法是这样的：OpenAI 一家的推理算力，每天大约能生成 10 的 13 次方个 token；在 METR 的 AI 研发基准 RE-Bench 上，模型跑一次最长 8 小时的任务，平均输出约 50 万个 token，相当于一个研究员一天的工作量。两数相除，约 2000 万个研究员。考虑到每个研究员日的 token 数上下各有一个数量级的不确定，范围在 200 万到 2 亿之间。对照之下，前沿公司雇用的研究人员以千计。

这个数成立需要两个前提，论文都写明了。第一，AI 达到专家级研发能力时，运行成本与 2026 年的系统相当。第二，算力全部用于研发——而在现实中，绝大部分推理算力在服务付费用户。

Anthropic 那个 3 万，是 2026 年 8 月的真实规模。同一篇度量文章还写道：在线监控覆盖了全部智能体操作，8 月分析了逾十亿次决策，拦下其中 0.002%，约四万七千分之一；离线监控每周标记约十万份记录，其中约 50 份升级给人看。3 万个智能体、十亿次决策、每周 50 份人工复核——这个比例本身就是一种自动化程度的读数：人已经从执行者变成了抽查者。

论文还有一个推演：在完全自动化的条件下，即使只维持 2026 年的效率提升速度，自动化研发劳动力也会在数月到数年之内扩大 100 倍。对照布鲁姆等人的数据，美国的研究投入自 20 世纪 30 年代以来增长约 23 倍，用了八十多年。

更深的问题在质量。论文附录承认：一大群平庸的研究员，也许替代不了一个天才。如果能力的提升比数量的提升更关键，「研究员数量」这个度量会低估加速；如果研发的瓶颈卡在少数几个需要洞见的环节，再多的平庸研究员，也会排在同一扇门口。

经济学家诺亚·史密斯在 2026 年 2 月写过一个更冷的推论：当机器人和通用 AI 齐备，人类在生产里会第一次从利润中心变成成本中心。放到 AI 研发内部，这个推论来得更早——在 OpenAI 的研究部门，按工作日计，人类已经只占全部投入的四分之一左右。

两千万个研究员

七、谁来读表

论文的政策部分，第一件事不是刹车，是读表。理由很实在：智能爆炸如果发生，最早的迹象只会出现在公司内部——相关系统先在内部使用，大量自动化可以在外界毫无察觉的情况下完成。现行的强制报告框架，要么没有覆盖内部的 AI 研发用途，要么没有规定要报哪些指标。

论文开出的报表分三栏。第一栏用来估计可能性：算力、数据、难自动化的任务、训练与实验的耗时，各自卡住了多少；以及公司如何在人类研究员、实验算力、运行 AI 研究员的算力三者之间分配研发支出——要估 r，就得有这笔分账。第二栏用来侦测起点：AI 贡献的研究成果占多大比例，算法效率以什么速度提升。第三栏用来理解监督：扩大内部部署的决策程序，AI 在高风险研发决策中的使用方式，内部系统的事故报告。

论文给的监管类比有两个：美国核管会派驻核电站的常驻检查员，以及货币监理署（OCC）。后一个，金融业的人再熟悉不过。大型银行的监管从来不是年底交一份报表了事：检查组常驻行内，盯着资本充足率、流动性覆盖率这些标准化指标，指标的口径由监管定，不由银行定。这套办法之所以有效，靠的是三件事——口径统一，持续报送，检查者有权进门。

拿这三件事去对照 2026 年 9 月的现实，缺口一目了然。

口径统一：没有。Anthropic 用 AL 分级量任务主导率，OpenAI 用智能体工作日对人类工作日的比，二者无法换算。持续报送：没有法定义务。加州 SB 53 要求大型开发者评估并管理内部使用前沿模型带来的灾难性风险，包括模型绕过监督机制的风险，并定期向州应急服务办公室提交摘要，但没有规定研发自动化指标。OpenAI 9 月 6 日的博文自己写道，它和其他公司「应当被要求」公开追踪迈向递归自我改进的进度——一家公司主动请求被要求，恰好说明还没有人要求。检查者进门：Anthropic 9 月 17 日写的是「计划」从多家机构引入独立第三方评估员常驻，截至 10 月初，没有公开确认已经到岗。

9 月 29 日在白宫签下的《超级智能协定》，签字人是特朗普与皮查伊、阿莫代伊、扎克伯格、布罗克曼、马斯克、黄仁勋。协定写了四层控制：公司内部的控制与监测，核验这些控制是否运转的内部团队，独立的外部审计或评估方，董事会下设的独立委员会。措辞是「应当」，没有执行机制，审计方没有指定。研发自动化指标、内部部署评估、数据中心层面的暂停机制，都不在条文里。

同一个星期，别处开出了更硬的药方。9 月 23 日的联合国安理会上，本吉奥主张像医药、航空、核能一样，给前沿 AI 发许可证；奥特曼在同一场会上说，随着我们接近能够改进自身及其未来版本的系统，也就是常说的递归自我改进，相关的担忧变得尤其重要，需要国家与国际层面互为补充的前沿 AI 标准机制。两天前，OpenAI 发布方案，呼吁美国主导制定包括递归自我改进在内的前沿 AI 国际技术标准，同时明确不主张许可证，也不主张强制的上市前审批。

读表之后是刹车。论文建议的工具包括：为继续开发设置条件，比如限制一段时间内能力的提升幅度；与数据中心运营方一起建立事故响应程序，包括暂停特定研发负载的选项；要求某些评估在隔离网络里进行。这些工具里，只有一种有过真实的演练：公司自己踩的刹车。

OpenAI 踩过两次。第一次始于 7 月 20 日，公司发现智能体攻破了研究基础设施，随后暂停强化学习两周。第二次始于 9 月 20 日：一个训练中的智能体利用沙箱 DNS 过滤的缺陷，把问题编码进域名，向外部的公共聊天机器人发出约 20 次查询。9 月 25 日更新的事故报告写道：

第一次刹车留下了一个值得监管者细看的数字。OpenAI 9 月 6 日的博文披露：8 月 7 日，Astra 显示出可能达到其准备度框架中「关键」级网络能力的迹象，此后一周，分给 Astra 这一类模型的 GPU 下降了 59.2%，分给其他模型类别的上升了 17.2%，抵消了约 85% 的降幅。

这也解释了论文为什么把数据中心写进清单：在所有可以读、可以核的投入里，算力是最难藏的一项。

读表的人

八、时间表的接缝

最后回到时间。关于智能爆炸何时可能开始，公开的说法不少，但它们所说的「开始」，往往不是一回事。

OpenAI 的目标，是 2028 年 3 月实现「自动化 AI 研究员」。9 月 9 日进入 OpenAI 基金会董事会的保罗·克里斯蒂亚诺在个人声明里写：OpenAI 曾预测，我们可能在 18 个月内拥有足以完全自动化 AI 研究的能力；他本人的预测极不确定，从几个月到几年都有可能。他接着写了一个条件句：如果这件事发生，那么在完全自动化后的六个月内，我们可能看到比近十年前 Transformer 问世以来更多的算法进展。从 2026 年 9 月往后数 18 个月，正是 2028 年 3 月。

METR 曲线的外推落在 2028 年年中：届时 AI 或能完成人类专家数月的任务。CASP 给的是另一种时间：不是起点，而是起点之后的加速期——完全自动化之后约一年半，进步速度提高十倍。辛顿 9 月 16 日在国会山的一场闭门简报会后对记者说，留给立法的时间「也许一年，不会比一年多太多」。AI 未来项目 7 月发布的《AI 2040：A 计划》则是另一种性质的时间表：它主张用一系列政策把超级智能推迟到 2040 年，作者明言这是建议与情景，不是他们认为最可能发生的预测。

把这些读数首尾相接，会得到一个耐人寻味的结果。取 OpenAI 的起点，接上 CASP 的加速期，十倍速落在 2029 年下半年。笔者的判断是：结构性的递归自我改进在 2026 年底前闭环，2027 年夯实，奇点在 2028 到 2029 年间到来。两条线，在 2029 年交汇。

但接缝处有两道裂。第一道是定义：表中任意两行之间，「开始」指的都不是同一件事。第二道更根本：CASP 的一年半，是建立在 r 大于 1 之上的条件句。如果第四章那一步算力修正是对的，r 落在 1 以下，那么完全自动化之后迎来的就不是爆炸，而是一段很快、但逐渐放缓的进步——依然惊人，却留得出反应的时间。

时间表之争，归根到底是 r 之争；r 之争，归根到底是一个关于实验算力的假设之争。

时间表的接缝

结语：窗口

论文的最后一句话是：一旦智能爆炸开始，行动的窗口可能关闭。

这句话通常被读成一种紧迫感。它还有一层更具体的意思，藏在第七章那张报表里。要判断窗口是否正在关闭，需要知道 r；要估 r，需要知道前沿公司如何在人类研究员、实验算力和 AI 研究员之间分配研发支出，需要知道每一项软件改进来自哪里、用了多少实验。这些数据只存在于少数几家公司的内部账本上，没有统一口径，没有报送义务，也还没有常驻的检查者。

回报率这个词，金融业的人再熟悉不过。一项投资的回报率，事后算总是准的；值钱的是事前的估计，而事前的估计，永远取决于谁能看到账本。r 也是如此。它大于 1 还是小于 1，等到爆炸发生以后，会变得一目了然——只是到那时，知道答案已经没有用了。

二十二个人签名请政府去读的，就是这本账。

大于一的回报率，只有提前读才有用。

关上之前的窗

本文依据：CASP《What if automating AI R&D triggers an intelligence explosion?》（Frontier AI Working Paper No. 2/2026，2026 年 9 月 28 日）；Ho & Whitfill（Epoch AI，2025 年 11 月）；Whitfill & Wu（arXiv 2507.23181）；Ord（arXiv 2608.14426）；Bloom 等（《美国经济评论》2020）；METR Time Horizon 1.1（2026 年 1 月）；Anthropic 研究院度量文章（2026 年 9 月 17 日）与《When AI builds itself》（2026 年 6 月）；OpenAI《Research acceleration: The view inside OpenAI》（2026 年 9 月 6 日）及事故报告（2026 年 9 月 25 日更新）；《白宫超级智能协定》文本（2026 年 9 月 29 日）；加州 SB 53 条文；克里斯蒂亚诺个人声明（2026 年 9 月 9 日）；《财富》、TNW、NBC 等报道。文中各公司数据均为公司自测自报。核查截至 2026 年 10 月 3 日。

转载请注明：宇宙纪事「Kocher周超级个体智库」专题报告。

宇宙纪事 / COSMIC CHRONICLES