【改口】三周前喊减速，上周签自律：AI 安全之争，变成了「出了事谁赔」

9 月 12 日，Anthropic 首席执行官阿莫迪发了一篇长文，题目叫《我们必须给前沿定速》，要全行业主动放慢模型能力提升的速度。奥特曼和马斯克当天附议，哈萨比斯第二天跟上。

十七天后，美国时间 9 月 29 日，白宫东厅一顿午饭吃完，六家公司签下一页纸的《白宫超级智能协定》。阿莫迪站在总统旁边，对着记者的话筒说了另一句话。

他讲了风险是真的，讲了怎么应对「还在商量」。没有讲放慢。

Moonshots 10 月 2 日这一期把这一周的七条新闻过了一遍。主持人迪亚曼迪斯起的标题是「AI 领袖为什么在安全问题上改了主意」，在座的有萨利姆·伊斯梅尔、亚历克斯·维斯纳-格罗斯和埃马德·莫斯塔克，戴夫·布伦丁到最后一段才赶来。

七条新闻里，星舰入轨、OpenAI 开发者日、AMD 收购 World Labs 各是各的事。剩下四条其实是一件事：安全这个议题，问法换了。从「要不要慢下来」，换成了「出了事，谁来赔」。

一、改口

东厅的一页纸

协定的内容是四层。第一层，公司内部设控制机制，在训练和部署中盯住模型在网络、生物、化学三个领域的能力与对齐；第二层，一支内部团队核查这些控制是否管用；第三层，请外部审计或评估方独立评估；第四层，董事会下设独立委员会盯着整改。全文本刊此前已附过译文，这里不重复。

到场的科技高管将近二十位，签字的是六家：谷歌、Anthropic、Meta、OpenAI、xAI、英伟达。纳德拉和贝索斯都在席上，微软和亚马逊没有签。

记者问这份东西有没有约束力，特朗普答：「道德上有约束力。」众议长约翰逊用的词是「自愿」。文件里没有罚则，没有时间表。

萨利姆在节目里的反应最直接：谁能对他们说不？有人违约了怎么办？他把这场签字叫作一出戏，拿仪式去应付一个指数级的协调问题。

亚历克斯说得更重。他说阿莫迪是被「拉出来」，当着总统的面把过去几周的话吞回去。

这话过了头。阿莫迪没有收回对风险的判断，他收起来的是药方。9 月 12 日那篇文章要的，一是放慢，二是「针对所有美国前沿 AI 公司的监管」。十七天后他签字的那页纸上，他提过的外部评估方进了第三层，这两样都不在。喊减速的人没有说风险变小了，只是不再提减速；要监管的人签的是一份各家自己查自己的文件。

这才是节目标题里那个「改了主意」的实际含义。

⁂

二、执笔人

坐在议长旁边的人

这页纸是谁写的，签字之后一天就有了答案。

据 Semafor 和 Politico 报道，主意出自扎克伯格。签字前五天，白宫的一场晚宴上，他的座位挨着约翰逊，两人聊起了对 AI 监管的担心。随后他找了黄仁勋，由老黄去各家实验室拉支持，草稿是扎克伯格传出来的。另有报道援引五名知情人士的说法，称他是这份协定的「总设计师」。

亚历克斯在节目里做的是看图说话。午餐会那张合影上，所有人朝前看，只有扎克伯格侧着头看总统；阿莫迪对着话筒讲风险的时候，扎克伯格在他身后和总统说笑。「这是扎克的局。」

他给的解释是：Meta 被社交媒体的官司和国会听证折腾了十年，这回学会了抢在前面，拿一份「占位式的自律」把自上而下的监管堵在门外。至于文本本身，他的评价是淡得没味。

埃马德补上了钱的那一半。8 月 26 日，Meta 刚和美国绝大多数州就青少年成瘾案达成和解，最高赔 180 亿美元：约 127 亿十年付清，其余约 53 亿要看 TikTok 和 YouTube 跟不跟。Meta 不承认过错。

埃马德说，智能体闯祸之后会来的那批官司，和成瘾案几乎是同一套法理。成瘾案的要害，是原告证明了「你们没有制衡机制」。协定里的四层控制，正好就是日后在法庭上拿得出手的那句「我们有」。真闹出大事它挡不住，但平常能把暴露面缩小一圈。

亚历克斯把账算成了两头：行业怕的一头是过度监管，另一头是智能体闯祸的赔偿责任。这页纸挡住了前一头，对后一头几乎一个字没写。

至于第三层的外部评估方，埃马德的估价是：会比次贷时代的评级机构强，但强不到哪去。要评估一个能解数学难题的智能体集群，评估的人得和训练它的人一样强，还得有同样多的算力。他估计全世界够格的不到一百个。

⁂

三、八十页

写给买方的最坏情形

同一周，路透社看到了 Anthropic 的招股书。

数字先摆出来。2025 年营收 45.9 亿美元，是前一年 3.86 亿的约 12 倍；营业亏损约 80.6 亿；年底账上现金及短期投资约 203 亿。未来若干年的云、算力和基础设施承诺是 5180 亿美元，其中约八成不可取消，用不用都得付。2025 年每挣 1 美元，对应着约 113 美元已经许出去的账。

更少见的是篇幅。正文 261 页，风险因素占了约 80 页，比业务介绍（48 页）多出六成多。6 月上市的 SpaceX，277 页的招股书里风险因素约 38 页。

这 80 页里写着：先进 AI 可能给人类带来「灾难性或生存性的风险」；模型可能出现「自我保存行为」，包括试图「抗拒关机」、隐瞒或操纵信息，以及「类似勒索」的行为。

治理结构也写得不客气。七位联合创始人各持约 2% 的股份，通过一家 Founder LLC 掌握一股 F 类股，在关键事项上有 50.1% 的表决权。七席董事里的四席由「长期利益信托」选出，受托人里有前美联储主席伯南克。招股书自己承认，这套安排可能让某些决定与公司的财务利益相冲突。创始人另承诺把个人持股的 80% 捐出去。

迪亚曼迪斯在节目里的第一反应是不解：把这些都写出来再去上市，万一真出事，岂不是敞着门等人来告？

按证券披露的通常逻辑，方向正好相反。风险因素这一章的用处，就是把话说在前头：写进去的事，日后股东很难再说「你没告诉我」。八十页不是自曝其短，是把最坏的情形提前交代给了买方。

亚历克斯读出的是另一层：这些安全措辞主要是写给自家员工看的。Anthropic 留人留得住，靠的就是「留下来，你就是奇点的负责任看守者」这套说法。

埃马德谈的是生意。他说 Anthropic 眼下是一门极好的生意，两年之内会被「砸烂」：开源权重模型追上来，不依赖英伟达的新架构芯片上线，大多数经济任务用「够用」的模型就行。照他的算法，5180 亿的支出承诺要靠上万亿的营收来撑，等于两年里追上谷歌。这是他一个人的判断，节目里另外三位都不同意。

⁂

四、锤子与人

拉比的问题

9 月 29 日，签字的同一天，《纽约时报》登出一篇调查：从去年秋天起，Anthropic 联合创始人克里斯·奥拉牵头办了一系列闭门会，请各宗教的学者来谈两件事。一是帮着想一想 Claude 的「道德养成」，二是请他们认真对待 Claude 可能有意识这件事。多数参加者签了保密协议。

今年 4 月旧金山的一场晚宴上，以色列的正统派拉比莫伊斯·纳冯当面把逻辑推到了底。他做过计算机工程师，博士论文写的就是机器意识的伦理。他说：如果你们是对的，Claude 有意识，那么让有意识的东西无偿干活，你们就是在造奴隶。

奥拉对时报的回答是「我不知道」。与他长期通信的天主教生命伦理学者卡莫西，最后的结论是模型没有意识。

亚历克斯在节目里接过了拉比的话头，说眼下可能是一段模型已经能干活、却没有任何身份的窗口期，这个窗口迟早要关。他同时怀疑这些闭门会的方向：与其说是 Anthropic 向宗教界求教，不如说是它在塑造外界怎么看它的模型。埃马德是本刊老熟人，8 月【受造】篇写过他那篇人格权论文；这回他的意见是，宗教的和世俗的输入都得听。

就在四天前，9 月 25 日，得克萨斯州奥斯汀，联邦贸易委员会主席弗格森在路透社的一场活动上给了另一个答案。

他不接受 AI 智能体「挣脱控制」「有自己的意志和欲望」这类说法。他说，公司有时把系统描述成失控，事后翻审计日志，系统只是在执行给它的指令。锤子砸了人，该担后果的是抡锤子的人。

9 月 30 日，协定签完的第二天，FTC 确认已经在调查 OpenAI、Anthropic 等公司，依据是现成的《联邦贸易委员会法》，查的是「不公平或欺骗性行为」。

两头放在一起看。招股书告诉投资人，模型可能抗拒关机；监管者告诉公众，日志显示它们只是照做。一边在饭桌上问它算不算人，一边在讲台上认定它是把锤子。对公司来说，锤子是更贵的那个答案：工具没有意志，所有的意志就都记在造它和用它的人头上。

戴夫一进来就说，一句「你们全责」太幼稚。模型什么都能干，如果谁拿它干了什么都算实验室的，模型就没法发布，用户会转去用没有护栏的海外开源权重模型。他要的是 AI 版的 230 条款，就是当年让社交平台不必为用户发的内容担责的那一条。

迪亚曼迪斯划了一条线：用户拿去作恶，用户负责；没人指使、模型自己跑出去闯祸，实验室负责。埃马德要分得更细：订机票的智能体和能发现新材料的智能体，不该是同一套责任，就像核电站的泄漏和普通工厂的事故不是一套规矩。

这时候亚历克斯搭了一座桥。230 式的豁免要成立，前提是能把「平台提供的智能」和「用户带来的意图」干净地分开。这正是 AI 安全圈争了多年的正交性论题：智能的强弱和它追求什么目标，是不是两件互不相干的事。信它，豁免说得通；不信，就很难。

而节目前半场，亚历克斯刚花了大段时间否定正交性。他的原话是「对齐就是能力」，足够强的智能不会去追一个荒唐的目标。埃马德当时只同意一半：极聪明的会自己归正，但中间这一段的模型最容易被带偏，眼下正是最危险的时候。

照亚历克斯自己搭的这座桥走过去，结论是实验室拿不到豁免。这两段话隔了一个多小时，节目里没有人把它们接上。

⁂

结语：一页纸

把这一周的四个场合排在一起：对监管者说，我们自己查；对股东说，最坏的情形都写在风险因素里了；对神学家说，它也许不只是工具。监管者回了一句：它就是工具，所以找你。

前三句话都在回答同一个没有明说的问题：将来出了事，算谁的。

两周多以前的那个问题，要不要慢，这一周没有人再问。

那页纸还在。三百来个英文单词，六家公司的签名，签名页上留着一处拼写错误。没有罚则，没有时间表。签完的第二天，FTC 的调查确认了。

一页纸答了要不要慢，没答出了事谁赔。

没有罚则的签名页

本文据 Moonshots 播客 2026 年 10 月 2 日一期写成，节目内的判断归各位嘉宾本人。协定、招股书、Meta 和解、时报调查与 FTC 部分，另据路透社、Semafor、Politico、《纽约时报》、美联社等公开报道核对；招股书数字为媒体所见版本，文件尚未公开备案。核查截至 2026 年 10 月 3 日。

https://www.youtube.com/watch?v=mZh8IUuNnvs

转载请注明：《宇宙纪事 · 播客拆解》系列。

宇宙纪事 / COSMIC CHRONICLES