宇宙纪事COSMIC CHRONICLES

文章 · 2026.09.15

【油门】五个造模型的踩刹车,卖芯片的和总统踩油门

ASI DEEP DIVE · THE THROTTLE

Kocher周 · 2026.09.15 · 原载微信公众号「可荐」

宇宙纪事 · 深度专研 · ASI 专题 2026 年 9 月

#ASI专题 #降速争论 #嵌入式评估员 #英伟达 #宇宙纪事

先把结论放在前面。这一周之后,AI 该不该降速这件事,阵营已经成形,而且分法出人意料:不是「AI 圈对政界」,也不是「安全派对加速派」,而是造模型的对卖算力的。造模型的五家——Anthropic、OpenAI、SpaceX 名下的 xAI、微软、Google DeepMind——先后表态支持放慢;卖芯片的英伟达和买单最多的白宫,说这是骗局。

但阵营分明,不等于分歧大。把两边的原话一句句对上,会看到一件更有意思的事:在「让第三方进实验室查」这一点上,黄仁勋和阿莫代伊说的是同一件事;两边真正分开的地方,只有一个字,和一两年。

一、七天的表

七天的表

争论的起点是九月八日晚,Anthropic 预训练研究员 Coxon 在 X 上七条帖子宣布辞职并退出行业,对齐科学负责人 Hubinger 跟帖报出「十年内超过 10%」的那个概率。九月九日 Anthropic 发布对齐复盘报告,承认四起事件;辛顿上 BBC。这一段本刊已在【失控】和【查账】写过,不再展开。本篇从九月十二日开始,把七天里每一个人说了什么按日期列出来——阵营是从这张表里长出来的。

日期(美国时间)
谁/说了什么
9 月 12 日
阿莫代伊发长文《We Must Pace the Frontier》,三步方案/奥特曼在 X 上称嵌入式评估员「是个好主意,我们也会这么做」/马斯克三个词:「Dario 是对的」
9 月 13 日
哈萨比斯:「方向对,细节要打磨」,回指自家的行业标准机构提案/纳德拉在 X 上欢迎「刻意放缓」与嵌入式评估员,宣布次日公布 MAI 模型行为准则征求意见/阿莫代伊上 CBS:最难的是其他国家是否参与/特朗普在爱尔兰:警告者是「负面力量」
9 月 14 日
特朗普 Truth Social 连发帖:「骗局」「病态阴谋」「唯一需要的护栏是一个强大聪明的总统」/黄仁勋在 All-In 峰会台上接特朗普来电,开免提/芯片股普跌,英伟达约 3%/纳德拉如期公布 MAI 行为准则

三天,七个人。表上还缺一家:Meta。其 AI 负责人 Alexandr Wang 没有直接回应阿莫代伊,只在九月十二日发帖说 Meta 超级智能实验室「正在迅速扩大对齐工作的份额」。算不上站队,记在表外。

二、刹车这边:五家各踩到哪一档

五家各踩到哪一档

「支持放慢」四个字,五家踩下去的深度差得很远。得先说清阿莫代伊那篇文到底提了什么,才能量出各家踩到了哪一档。

阿莫代伊:三步,只承诺了一步。他写得很清楚,「放慢不是停止训练模型或技术进步,而是确保公司花足够的时间对齐和防护模型,并由第三方评估员确认这一点」。他要的是「哪怕多争取一两年」。三步是:第一步,嵌入式评估员——每家前沿公司给第三方团队(他举 METR 为例)员工级的常驻权限,类比银行业的驻场监管员;第二步,美国及其盟友的前沿公司之间协调,共同定安全标准和「无检查进展」的速度上限;第三步,全球协调。Anthropic 单方面承诺的只有第一步:办公桌、门禁、公司笔记本,权限比照内部风险评估团队,一份合同保证评估员有权不经 Anthropic 编辑就公开关键发现,公司只能删安全、法务、商业敏感和第三方机密,「不能因为结论不利而删」。第二步他自己写了脚注:需要政府出面调解,或给反垄断豁免。第三步他分了四级,从禁止 AI 用于最危险的少数用途(「大概能成」)到全面暂停(「近期不太可能」)。


 "

办公桌、门禁、公司笔记本;权限比照内部风险评估团队;一份合同保证评估员有权不经 Anthropic 编辑公开关键发现。
——Anthropic 单方面承诺的第一步,《We Must Pace the Frontier》

还有一段常被略过:文里明写,放慢的幅度不能超过美国公司现有的领先幅度,所以要保住领先——芯片、蒸馏、权重安全三项都写在文里。也就是说,刹车这边的方案,本身就把「保持领先」写进了前提。这一点后面会用到。

奥特曼:跟进了第一步。九月十二日当天,他在 X 上写:承诺让独立评估员拥有员工级权限「是个好主意,我们也会这么做」。这是五家里唯一明确跟进第一步的。但他没说合同条款——评估员能不能不经 OpenAI 编辑就发布,还没有答案。同一周他对《财富》说今年上市「不明智」。

纳德拉:欢迎放慢,给了自家的答案。九月十三日他在 X 上说,「追求超级智能,必须以一条核心原则为基础:如果我们造的 AI 不是在帮助人类、不在人类控制之下,就不值得追求」;欢迎「刻意放缓」和嵌入式评估员这类想法;但也说这件事「不能由少数几个实体控制」。他的答案是微软自己的:每一层都开放选择、企业自己掌握学习回路和模型,外加九月十四日公布征求意见的 MAI 模型行为准则。这是支持放慢、但把方案换成了「扩散」——与阿莫代伊「先让外人进门」不是一个方向。

哈萨比斯:方向对,方案是自己的。他说阿莫代伊「指向正确的前进方向,细节还需打磨」,然后回指自己七月提出的行业标准机构——模仿 FINRA 的自律组织,模型发布前三十天送测。阿莫代伊的文里点名接受了这个机制作为第二步的一种形式。但哈萨比斯没有说 DeepMind 是否让外人进门、是否签不许公司改稿的合同。

马斯克:三个词,没有方案。「Dario 是对的。」再往后他说 AI 需要监督,同行互查是合适的起点。没有任何关于 xAI 的承诺。


口径提示

读马斯克的表态要带一个背景:据 CNBC 引监管申报文件,Anthropic 与 SpaceX 五月签了算力协议,Anthropic 每月向 SpaceX 支付 12.5 亿美元,直至 2029 年 5 月。此前他是 Anthropic 的长期批评者,签约后改口称「没人触发我的警报」。这不否定他的表态,但说明他此刻的位置:既是造模型的,也是刹车那一家的算力供应商。

把五家摆在一起:跟进「让外人进门」的两家(Anthropic、OpenAI),跟进「公司不能改稿」这一条的,截至九月十五日,仍是零家——Anthropic 自己也只是「打算在近期邀请」。其余三家支持的是方向,方案各是各的。刹车这边的共识是「该慢」,不是「怎么慢」。

三、油门这边:一张账单和一个「骗局」

一张账单

油门这边的话,比刹车那边说得狠,也说得全。九月十四日洛杉矶 All-In 峰会,黄仁勋台上四十六分钟,通话之外的三十八分钟,是他对这件事最完整的一次陈述。

他先把 Coxon 拆成两半。吹哨那一半,「很有勇气」「凡是有吹哨人,你就必须严肃对待」;预测那一半,「不是以科学为基础的」「是编出来的」「不负责任」。然后他开了一张账单:五年内放射科被 AI 全部接管,没发生;六到十二个月内 90% 代码由 AI 生成,没发生;六到九个月内一半入门岗位被消灭,没发生;GPT-2 危险到不能发布,发布了。「我们必须为所有这些愚蠢的预测记账。」


口径提示

这张账单里的日子,有几笔和原话对不上。放射科五年那条是辛顿 2016 年说的,确实没兑现。「90% 代码」是阿莫代伊 2025 年 3 月的话,原话是三到六个月,比黄仁勋说的还短,也确实没兑现。但「一半入门岗位」是阿莫代伊 2025 年 5 月对 Axios 说的,原话是一到五年内,失业率升到 10% 到 20%——五年窗口今天还没走完,说它「已被证伪」为时尚早。「Llama 3 危险到不能发布」一条,没有找到谁说过。

账单之后是他对监管的整套看法,值得原样记下。「监管应该解决实际的问题。那么问题是,到现在为止出过什么实际的问题?看看实际出过的问题——到目前为止,所有实际出过的问题都出在实验室。」原因他替实验室说了:「因为他们算力最多」,高中生和初创公司没有足够算力去闯祸。他数了数:「一家的四起事件,另一家的一起大事件」——对得上 Anthropic 九月九日报告里的四起和 OpenAI 的 Hugging Face 蜂群。他的方案是工程的:先做根因分析,然后「我愿意押钱,每一起在未来都在他们的控制范围内」。另一种可能他也说了:如果实验室分析完说「我们不知道发生了什么,也不知道怎么控制,我们请社会帮忙」——「那一堆公司的工程师就该派人进去」。但他补了一句,「我怀疑会这样,他们有非凡的人才,他们搞得定」。

关于递归自我改进,他的说法是把这个词拆开:上下文学习、技能、反思、强化学习、合成数据,往上是 LoRA 改权重,再往上是拿全部经验重训基座——「每一家都在某种程度上用它」,「只是这个词现在被拿来当武器」。不会失控的理由只有一条:「你在公司里可以 RSI 一整天,但当你发布一个产品,你得评估它吧?你得再测一次吧?你得确保没有退步吧?」

白宫的话就没有这么多层次了。九月十四日上午特朗普在 Truth Social 连发数帖:说 AI 要毁灭世界、数据中心对社区有害的人,「就是不久前说世界会被『气候变化』毁灭的那批人」,「那个骗局没成,他们又换了下一个」,这些人「是在为一个坏的事业造反」;「AI 唯一需要的控制或『护栏』,就是一个强大而聪明(高智商!)的总统,而美国有,绰绰有余」;点名「Dario(Anthropic!)」「现在装成一个完美的小天使」;「我们对这些公司已经有巨大的刑事和监管权力」。中午电话打到黄仁勋台上,那几句本刊快讯已发:「正中那些不想看到它发生的人的下怀」,「这是个骗局」,「我甚至不知道你怎么想的,我就假定你和我想法一样」。萨克斯的立场本刊【同一面坡】记过一次:不造超级智能最简单的办法,是你们自己同意不造。

四、分歧只在一个字

一个字

现在把两边的话对起来。阿莫代伊第一步要的是:第三方评估员常驻实验室,员工级权限,类比银行驻场监管。黄仁勋在电话之后那段说的是:「如果你想让 AI 安全,第一件事是确保造它的实验室在控制之中……如果我们想要第三方评估员,那和财务控制没有区别——你们知道,我们有审计师。审计师不必像我们一样精通自己的业务,他们只需要问对问题。我听到有人说,有独立审计师或评估员是好事,但得有多家——这一点我也同意。」

这两段话说的是同一件事。银行驻场监管员和财务审计师,是同一个行业里的两种人,区别只在常驻还是定期。在「让外人进门查」上,油门这边的黄仁勋和刹车这边的阿莫代伊,站在同一边。纳德拉的「先把测量和标准做对」,也在这一边。

那分歧在哪?在第二步,在「慢」这个字。阿莫代伊要的慢,是公司之间协调「无检查进展」的速度上限,是「哪怕多争取一两年」;而他自己写明,这一步在法律上做不到,除非政府出面调解,或者给一个窄口径的反垄断豁免。也就是说,慢不慢,最终不由造模型的定,由能给豁免的那个政府定。而那个政府在九月十四日给出的答案是:唯一需要的护栏是一个高智商的总统,其余是骗局。


KEY INSIGHT

两个阵营在「查」上是一边的,分在「慢」上。而「慢」的第二步需要反垄断豁免,唯一能给豁免的政府这一周把它叫作骗局。第一步活着,第二步这一周死了——不是被实验室否决的,是被油门那边的政府否决的。

再往深一层,两边的分歧其实比「慢不慢」还窄。阿莫代伊那篇文自己写了,放慢的幅度不能超过现有的领先幅度,所以要保领先;黄仁勋说竞赛「不是几家科技公司赢,是美国每家公司都赢」。两边都要领先,都不要停。争的只是:在保住领先的前提下,愿不愿意为对齐和评估让出一两年。刹车这边说愿意,油门这边说这一两年不存在——「所有预测都是错的」,问题「都在他们的控制范围内」。

这一两年,恰恰是双方都拿不出证据的一段。阿莫代伊说六到十二个月内一个更强的蜂群可能接管整个互联网,这是判断;黄仁勋说四起事件都能靠工程根因分析堵住,这也是判断。两边都押了钱——一边押上市,一边押产能——但都没有把证据摆出来。

五、市场投的票

市场投的票

有一方在这一周投了票,而且是用钱投的。美国时间九月十四日,CNBC 报道,芯片股和 AI 基础设施股集体下跌:英伟达跌约 3%,美光、英特尔、迈威尔、应用材料各跌逾 4%,SK 海力士美股跌 7%;网络安全股反而上涨。触发点就是那篇长文,以及奥特曼和马斯克的附议。当天下午特朗普的电话打到台上时,抛售已经开始了几个小时——电话没有把它拉回来。

这一票要写全。英伟达八月二十六日的财报,营收 962 亿美元、同比增 106%,下季指引 1080 亿,当天股价涨了 4%;九月十四日跌的这 3%,还没有吐完那一天涨的。卖方分析师也提醒,阿莫代伊的方案「不是要降资本开支、不是要停训练」。一天的下跌是市场对「慢」这个字的即时定价,不是终局。

但有一条把两个阵营在资产负债表上接到了一起。路透九月十一日晚报道,英伟达正在谈判以最多 100 亿美元成为 Anthropic IPO 的基石投资者,Anthropic 拟募资最多 1000 亿美元、估值约 2 万亿;Anthropic 不予置评。CNBC 九月十四日跟进:Anthropic 已选定纳斯达克,七月年化运行率 650 亿美元,并向部分股东表示本季将连续第二个季度实现经营盈利。也就是说,油门那边最大的一家,正准备给刹车这边最大的一家上市托底。黄仁勋台上还说了一句:「我周末用了四个闭源模型,都很好。」


口径提示

650 亿美元是年化运行率(run-rate),不是确认营收;2 万亿是拟议发行估值,不是一级市场投后估值(五月 Series H 投后为 9650 亿),两者不可直接比。截至九月十五日,证监会公开检索无 Anthropic 的 S-1,发行日期、价格、股数、承销商均未正式宣布,基石投资者一说系路透引知情人士。

还有一票在市场之外。盖洛普五月的调查,七成美国人反对在自己所在地区建 AI 数据中心,过半是因为环境资源。黄仁勋在台上也说到,得州州长阿博特希望行业「对小社区更有同理心,做更好的倾听者」。「骗局」要说服的,不只是几个辞职的研究员。

结语·九月二十四日

阿莫代伊九月十三日上 CBS,说他这套方案「最难的两难」是其他国家是否参与——各国抢先的动机「太大了」,「不清楚能不能做到,但必须试」。他的文里把这件事分了四级,自己只对第一级(禁 AI 用于最危险的少数用途)说「大概能成」。

本刊在【失控】结语里定下的对账日没有变:九月二十四日,美联社此前报道那一天的议程上大概率有 AI。到那天要看的东西,这一周变得更清楚了——不是看双方要不要停,两边都不停;是看阿莫代伊那四级里的第一级,会不会出现在任何文本里。

而在那之前,两个阵营的账可以先记下:查,两边都点了头;慢,只差那一两年。那一两年,正是双方都说不准的一段。

让外人进门,两边都点了头;踩不踩刹车,只差那一两年。

那一两年


来源:阿莫代伊《We Must Pace the Frontier》原文(darioamodei.com,2026 年 9 月);All-In Podcast 9 月 14 日节目原声(黄仁勋引语由本刊据原声译出);奥特曼、马斯克、纳德拉、哈萨比斯 X 帖及《大西洋月刊》、CNBC 9 月 12–14 日报道;特朗普 Truth Social 9 月 14 日帖(Fox News、CNBC 转引);CBS《周日早晨》9 月 13 日访谈(CNBC 转述);路透 9 月 11 日、CNBC 9 月 14 日关于 Anthropic IPO 的报道;英伟达 2027 财年第二季度财报(8 月 26 日);盖洛普 2026 年 5 月调查。阿莫代伊 2025 年原话据美国外交关系委员会 3 月访谈与 Axios 5 月报道。核查截至 2026 年 9 月 15 日。

转载请注明:《宇宙纪事 · 深度专研 · ASI 专题》系列。

宇宙纪事 / COSMIC CHRONICLES