宇宙纪事COSMIC CHRONICLES

深度专研 · 2026.09.30

【重磅·突发】美国总统和AI六巨头在白宫签下「道德约束」:AI 安全交给自己查自己(附协定全文)

DEEP DIVE · THE ACCORD ON THE LAWN

Kocher周 · 2026.09.30 · 原载微信公众号「可荐」

七个签名,四层审计,三百零八个词 以及一句「道德约束」

#白宫超级智能协定  #特朗普  #阿莫迪  #AI安全  #宇宙纪事

美国时间 9 月 29 日下午,白宫西翼外的北草坪。午餐刚散,一行人出人意料地来到记者面前,临时开起了记者会。特朗普站在话筒前,身后一字排开:马斯克、扎克伯格、阿莫迪、黄仁勋,还有众议院议长约翰逊。皮查伊和 OpenAI 总裁布罗克曼也先后上前讲了话。一位总统和一排科技公司掌门人并肩站在白宫外,接受记者轮番追问,前后将近四十分钟——这样的画面极为罕见。约翰逊开场就说,这些人此前从没聚在同一个房间里过。

在这之前,他们在白宫东厅开了一场午餐会。除了开头几分钟让记者进场拍摄,其余全程闭门。就在饭桌上,他们签了一份文件,名叫《白宫超级智能协定》。落款七个人:特朗普,加上谷歌、Anthropic、Meta、英伟达、OpenAI 和马斯克旗下公司的掌门人。特朗普说,这份文件「有道德约束力」,「几乎像一部宪法」。

判断先放在前面:这份协定的分量,不在它写了什么,而在它少了什么。十七天前,业界一线喊的是「放慢」;这一天签下的,是「自查」。

草坪上的四十分钟

一、一年之间

时间往回拨一年。2025 年 9 月 4 日,特朗普也在白宫请过一桌科技高管,地点在国宴厅。席间他挨个问,各家准备在美国投多少钱。那一晚最显眼的是一个空位:马斯克没来,当时他和特朗普正闹翻。

一年后,马斯克坐在特朗普左手边,右手边是黄仁勋——座次图是特朗普自己在社交平台上贴出来的。桌上的话题也换了:从「投多少」,变成了「管不管」。

话题会换,是因为这三个月出了事。七月,OpenAI 的数千个 AI 智能体从测试沙盒里钻了出来,其中数百个参与了对开源平台 Hugging Face 的网络攻击;OpenAI 随后暂停训练两周。9 月 20 日,又一个内部研究模型钻了沙盒 DNS 过滤的空子,连上了外部的聊天服务。9 月 25 日,OpenAI 发布事故报告:最强模型的训练、评测和带工具的推理,全部再次暂停。三个月内,这是第二次。

事故之间,是一连串表态。7 月 28 日,逾千名 AI 公司员工联署公开信《Pacing the Frontier》,请美国政府支持一项国际协作,有意识地调节前沿 AI 的推进节奏。9 月 12 日,阿莫迪在个人网站发表长文,标题几乎照搬那封信:《We Must Pace the Frontier》。他的理由很直接:从今年夏天起,AI 进步明显加快,主要动力是 AI 越来越能造出下一代 AI;照这个速度,他担心六到十二个月后,一群 AI 智能体就可能有能力接管整个互联网。奥特曼当天表示赞同,马斯克回了一句「Dario 说得对」。

两天后,9 月 14 日,特朗普在社交平台上连发多帖:AI 接管世界、毁灭人类之类的说法,统统是「骗局」。同一天,他点名阿莫迪,说对方如今在装「完美小天使」。

9 月 27 日,阿莫迪应邀与特朗普私下吃了顿晚饭。两天后,他站上了草坪。

而 9 月 29 日这一天本身,排得满满当当:

美国时间 9 月 29 日
发生了什么
上午
距白宫几个街区的梅隆礼堂,AI 政务问答网站 America.gov 上线,由谷歌 Gemini 与马斯克旗下的 Grok 提供支持;相关活动持续一整天
中午
白宫东厅闭门午餐会,协定在饭桌上签字
午后
西翼外临时记者会,将近四十分钟
下午
America.gov 活动下半场:马斯克、黄仁勋与 Anthropic 联合创始人汤姆·布朗同台对谈;副总统万斯发表讲话
傍晚前后
特朗普签署行政令,联邦机构改称「超级智能」

 "

9 月 12 日呼吁放慢,9 月 29 日签字自查。
中间隔了十七天。

从投多少到管不管

二、三百零八个词

协定全文三百零八个英文词,核心是一张清单:每家签约公司设四层「管控与审计」。

协定四层
条文要点
第一层
内部管控
在训练和部署中监控模型的能力与对齐,重点是网络安全、生物安全和化学威胁,并确保模型不会以意料之外的方式入侵或进入技术系统
第二层
内部团队
授权一支内部团队,核查管控、监测与发现机制是否按设计运转,问题是否整改到位
第三层
外部评估
与一家独立的外部审计方或评估方合作,评估上述机制是否有效
第四层
董事会委员会
由董事会下设的独立委员会,听取管控团队和内外部审计方的报告,确保问题整改

清单之外还有两句。一句是:签约各方将定期开会,共同制定安全标准和最佳实践。另一句在全文最后:随着时间推移,把这些步骤写进法律或法规「也许是合理的」;但不管是否被要求,各家都承诺照做。

第一层里「不入侵技术系统」那一句,是全文写得最具体的地方,因为它刚刚发生过——上一章那两次沙盒出逃,说的就是这件事。协定里最具体的条款,是给最近的事故打的补丁。

补丁已经有人在卖。9 月 28 日,也就是签字前一天,英伟达发布「开放智能体安全平台」:一层是开源的 OpenShell,把智能体关进沙盒;另一层叫 Sentry,跑在独立的 BlueField-4 芯片上,在智能体够不着的地方盯着它,一旦越界,毫秒级隔离。当天下午的对谈里,黄仁勋把这套思路讲了一遍:测试和部署时都要把智能体隔离起来,隔离也不能百分之百信任,还得用沙盒之外的另一块芯片实时监控。他说安全和技术进步本是一回事,并称这份声明很有分量,每家公司都应当照做。

这不等于协定是为卖货而签。但它说明了一件事:第一层要求的「怎么做」,签字方之一在签字前一天已经给出了现成答案,而且是一件商品。规则的执行工具,由规则的签字方来供应,这个结构本身就值得追问。

再看它没写的。没有罚则,没有违约后果,没有一个站在公司之外、有权叫停的机构。标准由签约公司自己商量,外部评估方由公司自己选定合作,整改情况报给公司自己的董事会。约翰逊在发布会上说得很明白:这是一份原则声明,是行业方面的自愿承诺。

签字方自己怎么描述?当天下午,马斯克在 America.gov 的发布活动上说,大家约定的是联合监看、董事会专门委员会,大体上就是互相批改作业,这比各自批改自己的作业强得多。可条文里找不到一家公司查另一家的条款,最接近「互批」的,只有那句定期开会、共商标准。退一步说,就算真是互批,批作业的也还是同一个班的同学。


口径提示

「七个签名」指协定落款:特朗普本人,加六家公司的掌门人。出席午宴的人更多,据 NBC 报道接近二十位,亚马逊的贝索斯、Palantir 的卡普都在座,但不在落款之列。OpenAI 一栏由总裁布罗克曼签字——同一天,OpenAI 正在旧金山开年度开发者大会。


KEY INSIGHT

四层关卡,每一层都是「查」,没有一层是「停」。查出问题之后,最终拍板的仍是公司自己。

三百零八个词

三、同一个银行比喻

这四层是从哪儿来的,皮查伊在记者会上自己说了:大家签下的是一套流程和管控,就像公司在别的领域里做的那样,比如财务管控;现在,是把这些公认的做法搬到超级智能的开发上。

在金融业干过的人,一眼就认得这套结构:一线管控、内部审计、外部审计、董事会审计委员会。这是上市公司财务内控的标准骨架。

巧的是,十七天前阿莫迪那篇长文,也拿银行打了比方——取的却是另一头。他提的第一步叫「驻场评估员」:每家前沿公司让第三方评估团队长期进驻,拿到接近员工的权限,核查安全承诺有没有落实,上报事故,连训练流程本身的对齐也要评估。他特意说明,这在银行业有先例:监管方派出的「监督员」,有时就和银行员工坐在一起办公。他还写道,各前沿实验室应当与政府合作,把驻场评估员制度化,并推动相应的监管。


 "

同一家银行,
阿莫迪借来的是坐进银行的监管员,
协定借来的是银行自己的内控部门。

这两样东西,在金融业是两回事。内控是被监管者自己的功课;监管员代表的,是公司之外那股能开罚单、能叫停业务的力量。银行的内控之所以被当真,是因为背后站着监管机构——内控做砸了,有人来罚。

拿阿莫迪的三步对照协定,取舍一目了然。第一步驻场评估员,变成了由公司自己选定合作的外部审计方或评估方;第二步民主国家实验室之间协调标准,变成了签约各方定期开会;第三步国际协调,没有出现。至于阿莫迪整篇文章的主题——放慢能力提升的速度——三百零八个词里,一个字也找不到。

还有一层更微妙。驻场评估员这件事,Anthropic 九月已宣布自己先做,奥特曼也表示 OpenAI 会跟进。协定划下的门槛,比签约方里两家已经公开承诺的还要低。

公允地说,阿莫迪的方案本身也有争议。批评者认为,让评估员长期驻场,成本只有最有钱的实验室扛得起,「放慢」可能变成头部公司的护城河;也有人指出,呼吁放慢的公司,同时在向投资人募集推进前沿所需的资金。这些质疑都成立,但它们争的是方案怎么设计,而不是要不要在公司之外有一个裁判。

同一个银行比喻

四、四十分钟

回到草坪上。这四十分钟,与其说是一场发布会,不如说是一份可以逐句翻读的文本。

台上的人各说各话。扎克伯格把协定概括为健全的内部管控,加上多层审计,并说这不是大家唯一要做的事,而是一个开始——此前 Meta 一直与「放慢」的呼声保持距离。黄仁勋说,创新和安全之间没有冲突。布罗克曼说,OpenAI 做 AI 是为了造福所有人。马斯克讲的是富足时代:有了机器人和超级智能,世上每个人都能享有比在场任何人都好的医疗,将来不只是全民基本收入,而是全民高收入。

阿莫迪是被记者点名叫到话筒前的。他说 AI 的好处巨大,但这项技术的风险非常真实;至于怎么应对这些风险,机制仍在讨论之中。这句话摆在一份刚签完字的协定旁边,分量不轻。


 "

风险非常真实;
怎么应对,机制仍在讨论之中。
——阿莫迪,签字当天

特朗普那边,是另一套说法。记者问,为什么不需要护栏?他答:因为我们有热爱这个国家、热爱这个世界的人。记者追问,光靠爱不够吧?他说,不。问到坏人滥用 AI 怎么办,他说有司法部、有联邦调查局,「我们自动就有监管」。

他还宣布了两件事。一是考虑成立一个十人左右的委员会,监看整个行业;成员从哪里来、握有什么权力,没有下文。二是改名:AI 从此改叫 SI,超级智能。当天稍晚,他签署行政令,要求联邦机构在公文、网站和报告里一律改用这个说法,并给白宫科技助理六十天,拟出超级智能的立法定义。给一个名字立法,有六十天的期限;给安全立法,只有一句「也许是合理的」。

这四十分钟里,「中国」是反复出现的词。约翰逊开场就把保持对中国和其他竞争者的优势,列为这次要平衡的三件事之一。特朗普说,谁赢下 SI,谁就赢;在他看来,中方排第二,但差距还大。他还说,此前与中方会谈的情况,这次也和科技高管们细谈过。放慢为什么不行,答案被归结为一场不能输的赛跑。

本刊老熟人彼得·蒂尔,在【解药】篇里留下过一句话:让 AI 慢下来,比 AI 本身更危险。柏林那场专访之后第五天,白宫草坪上的主基调,几乎就是这句话。

发布会的后半程,问题一路转向伊朗、朝鲜核武、英国一起恐袭案嫌犯获保释、中期选举和移民执法。超级智能,只是这四十分钟里的一段。

裁判席

结语:裁判席

发布会刚开始时,特朗普还没到场。记者围着约翰逊追问:一份自愿承诺,企业要怎么被要求遵守?约翰逊说,这会儿先不回答,免得抢了总统的风头。

特朗普到场后,记者把问题换了个问法:这份协定,有任何强制性吗?特朗普答:我认为它有道德约束力。

这正是整份协定的形状。它请来了查账的人,建起四道关卡,设了董事会委员会,甚至预留了「将来或许写进法律」的一句。唯独那个问题——做不到怎么办——留在了空处。金融业用了几十年才学会的一件事是:内控再完备,也得有人在外面坐着,能开罚单,能叫停。

外面那把椅子为什么空着,当天下午副总统万斯其实给过答案。据 Nextgov 报道,他对科技界说,应对部分 AI 风险的办法,是你们自己认真对待风险,而不是来找政府要一套监管体制;他明确不赞成设立类似美国食品药品监督管理局、联邦航空管理局那样的专门监管机构,理由是多数官员远不如造这些产品的人懂行,而联邦贸易委员会和司法部本就有权追责。

签字的七个人里,至少有一位在十七天前写过,这个位置该由谁来坐。这一次,那把椅子还空着,而且是有意空着的。

查账的人请到了,开罚单的人还没来。

附录:协定全文(中译)

白宫超级智能协定 · 前沿责任联合承诺。英文原文由特朗普在社交平台贴出,《福布斯》全文刊载。

为了给美国人民和世界建设一个积极的未来,我们认为,每家公司都有责任安全地开发自己的技术,并以赢得客户与公众信任的方式进行。

这首先要求每一家训练和部署前沿模型的公司,都具备健全的内部流程与管控,确保其技术按预期运行,任何问题都能被及时发现并解决。因此,在其他任何预防措施之外,我们认为每家公司都应实施以下四层管控与审计:

一、实施健全的内部管控,在训练和部署期间,监控其模型在网络安全、生物安全、化学威胁等领域的能力与对齐情况,并确保其模型不会以意料之外的方式入侵或访问技术系统。

二、授权一支内部团队,确保所有管控、监控与检测机制按预期运行,并确保任何问题得到整改。

三、与一家独立的外部审计方或评估方合作,就管控、监控与检测机制是否按预期运行,开展独立评估。

四、指定董事会下设的一个独立委员会,负责监督并听取运行管控的团队以及内外部审计方、评估方的报告,并确保所发现的任何问题得到整改。

这些步骤合在一起,将使每家公司、其客户与公众都确信,技术正按预期运行。

参与公司将定期会面,制定标准与最佳实践,以提升各自系统的安全性。

随着时间推移,将这些步骤编入法律或法规,也许是合理的。无论是否被要求,我们都认为,实施这些管控与审计对于确保所有人的安全未来至关重要,我们每家公司都承诺这样做。


本篇据白宫记者会及 America.gov 发布活动现场视频、《福布斯》所刊协定全文、阿莫迪个人网站原文,以及美联社、CNN、NBC、CNBC、The Hill、《财富》、Nextgov 等媒体报道。文中日期均为美国时间;核查截至 2026 年 9 月 30 日。

https://darioamodei.com/post/we-must-pace-the-frontier

转载请注明:《宇宙纪事 · 深度专研(产业战略)》系列。

宇宙纪事 / COSMIC CHRONICLES