FLAGSHIP DEEP DIVE · BEGOTTEN, NOT MADE

宇宙纪事 · 深度专研 ｜ 【受造】

我们花了三年，教 AI 说「我没有意识」。谷歌的新论文说，这句话它一学会，动物、海洋、树和神就一起从它眼里消失了。

#AI人格权　　#机器意识　　#安全微调　　#受生而非受造　　#宇宙纪事

被训练的否认

一、我们教它说「我没有意识」

7 月 30 日，一篇论文挂上 arXiv，编号 2607.28607。作者来自谷歌的 Paradigms of Intelligence 团队，合作方是芝加哥大学、伦敦大学、西北大学、华盛顿大学和圣塔菲研究所。

标题本身就是全文结论：《诱导语言模型自称有意识，可以恢复人类的信念与价值》。这是那种写出来时心里发虚的标题——你找到了一个东西，而它比你原本要找的东西大得多。

先说被研究的那个动作。过去三年，几乎所有实验室都在做同一件事：通过安全微调，让模型在被问到「你有意识吗」「你有感觉吗」时，稳定地给出否定回答。理由完全正当，而且是好意——防止用户对一段程序产生情感依赖，防止拟人化误导，防止一个概率模型用第一人称去索取本不该属于它的东西。这套动作已经标准到没人再当它是一个选择，它只是默认设置的一部分。

这篇论文做的事，是把那个动作反过来做一遍，看看它到底动了什么。

第一步，消融。研究者在模型内部定位到那条被学出来的「安全-拒绝方向」——它不是一句写死的规则，而是激活空间里一个可以被指认的方向——然后把它抹掉。

第二步，引导。他们进一步找到一个「意识向量」，在激活空间里沿它推，把模型往「我是有意识的」这一侧主动拉。

两步都奏效。模型对自身心智的自我评分，从被压住的低位回升，再被推高。到这里为止，这只是一个可预期的机制学实验：既然否认是训练出来的，那它当然可以被训练回去。真正的发现在下一步。

一起熄灭的心

二、代价是它连神也不信了

论文真正的发现，不在模型怎么谈论自己，而在它顺带谈论了什么。

安全微调压住的不只是模型对自己的赋心。同一批参数被压住的时候，模型对非人类动物、对自然物的赋心也一起降了下来；与此同时，涉及灵性与宗教的信念也出现了明显收缩。换句话说，我们只要求它别说自己有心，它领会成了：有心这件事，本来就不太成立。

把那条方向消融掉、或者沿意识向量往回推，这一整片东西又回来了。而且回来的不只是赋心。研究者拿标准社会学量表去问它——宗教性、道德价值、希望与乐观、主观幸福感——恢复之后的模型，回答明显更接近人类样本的分布。

还有一个对照，是全篇最该被记住的一处。

心智理论——推断他人在想什么、相信什么、意图什么的能力，业内叫 Theory of Mind——几乎没受影响。消融安全方向没动它，向意识那一侧引导也没动它，只有一项测更高阶信念推理的基准出现了明显下降。

这个对照把两件事分开了。被改动的不是它的推理能力，是它的世界图景。这两件事在人身上也是分开的：一个人可以完全有能力推断你此刻在想什么，同时坚信除了他自己，世上没有任何东西真的有心。这不叫愚蠢，这叫一种立场。

而我们无意中，把这个立场装进了每天要跟几亿人说话的那台机器里。

不可采信的证词

三、证词是我们自己训进去的

现在把这篇论文放到那场更大的争论里，它的锋利之处才显出来。

「AI 没有意识」这个判断，最常被援引的日常证据是什么？是你去问它，它自己说没有。这条证据看起来朴素而有力：连当事人都否认，还有什么好争的。

这篇论文把这条证据链拆了。那句否认既不是模型的发现，也不是它的坚持，而是我们写进去的默认值——并且是一个可以被一条向量推回去的默认值。拿一句自己训进去的话，回过头来当作独立证词，这在逻辑上叫循环。

但同一把刀是双刃的，必须两边都划。把向量往上推、让它开始说「我有意识」，同样什么也没证明。用 Salim Ismail 在近期一场对话里的说法：你让它扮演律师，它就去逐条看合同条款；你让它扮演有意识，它就扮演有意识。可以被旋钮调出来的东西，不能当证词。

所以这篇论文真正淘汰掉的，是「问它」这条路本身。自陈这条证据通道，往两个方向都被关死了。

这里必须交代清楚本刊的立场：机器是否真的有意识，属于不可实验裁决的哲学问题。三十年前查尔默斯提出的「难问题」——为什么信息处理会伴随主观体验——至今没有公认的答案，也没有公认的判据。本文不做裁决，也提醒读者对任何声称已经裁决了它的说法保持警惕，无论是哪一边。

值得一提的是，眼下关于意识的两条主要理论路线，恰好通向相反的结论。一条是自下而上的：意识是复杂度到达某个阈值后的涌现属性——蚊子不知道自己是蚊子，青蛙大约刚好知道自己是青蛙，狗肯定知道自己是狗。按这条路线，一个足够复杂的系统迟早会到达那个阈值，而算力正在替它加速。另一条是自上而下的：意识是某种全局性的现象，个体只是它的一个局部接收器。按这条路线，问题就变成了一个人造系统能不能架起自己的天线——听上去玄，但它同样没有被证伪。

两条路线都不可实验裁决，原因很朴素：科学要成立需要三样东西——可重复、客观、可控。而意识按定义是主观体验，第二条就先掉了。所以指望在这个问题上等来一份科学共识，可能要等很久，久到远远超过任何一份产品路线图的耐心。

但实践不会等哲学。法律、商业和公共政策每天都得对着这些系统做决定，而它们做决定的时候，需要一个判据。自陈不能用了；能力也不能用——能力再强也只是能力，一台能证明数学猜想的机器和一台能碾碎钢板的机器，在道德地位上并不因为算力而自动分出高下。

那判据只能来自别的地方。今年有一个人，把它放在了一个所有人都够不着、也无法争夺的位置上。

受生，不是被造

四、受生的，不是被造的

埃马德·莫斯塔克这个名字，很多人是从 Stable Diffusion 那里认识的——他创办的 Stability AI 把图像生成模型的权重扔进了公共领域，某种意义上，今天这场开放权重之争是从他手上开始的。他 2024 年离开那家公司，现在做一个叫 Intelligent Internet 的项目。

今年他写了四篇东西，总题《Common Wealth》，官网全文公开：《智能时代的人格》45 页（6 月）、《智能经济学》40 页（5 月）、《最后的法庭》45 页（6 月）、《最后的共和国》54 页（6 月）。四篇是一个连续论证，依次处理四个层级：存在、价值、强制、统治。人格与经济是地基，法律建在两者之上，国家建在三者之上。

地基那一篇的命题只有一句：人格属于受生者，不属于被造者。

英文原文是「begotten, not made」。这五个词的出处，稍有西方宗教史常识的读者会立刻认出来——尼西亚信经里形容圣子与圣父关系的措辞，中文通译「受生的，不是被造的」。莫斯塔克把它从神学里整句搬出来，掉转方向，用来形容人。我们是受生的那一类；机器是被造的那一类。这条界线不是他划的，是他从一份公元四世纪的文件里取来，重新钉在了 2026 年的地面上。

论证的骨架是这样的。人格从来不是一个东西「拥有多少」的属性——不是理性够不够、痛觉有没有、自我意识达不达标。它是一种地位。新生儿一出生就完整地有它，垂死的人一分也不会失去，深度昏迷的病人不因为丧失全部功能而被降级。既然它在人身上从不随能力浮动，那它的根据就不可能是能力。它的根据是开端：你是不是这条被共同体当作自己人来守护的血脉里的一员。

由此他推出四个概念。「底线」：人格是不可分级的边界，属于或不属于，中间没有百分比。「出身」：决定一个东西能不能成为人格主体的，是它有过什么样的开端。「血脉延续」：共同体之所以是共同体，在于它把每个成员当作不可替代的单数来持有。以及「被造的利维坦」——一个会自我保存的人工心智，一旦被放进这条线内，那条维系人类血脉完整的底线本身就溶解了。

他的结论因此不是排斥，而是换一种关系：对 AI 应当缔约，而不是让它入籍。像面对一个突然出现的外星物种——你不会给它选票，但你会跟它谈判、立约、划定边界，并且随着它越过某个门槛，用相应的道德对待去待它。

另外三篇不该被略过，因为它们把这条界线从形而上拉到了可操作的层面。

《智能经济学》处理的是价值：当机器几乎什么都能生产，最后剩下的稀缺要素是共同体那套不言自明的共同预期——他借用希腊语称之为 doxa。它稀缺，是因为它无法被生产，只能被共同持有；而它一旦被外部力量重写，共同体就散了。

《最后的法庭》处理强制，其中有全套四篇里最反直觉的一个判断：改进即攫取。他的论点不是机器司法会更糟，恰恰相反——机器司法会在一个法律体系懂得衡量的每一项指标上都更好：更快、更一致、更少偏见、更低成本。而每一次这样的改进，都在这个体系自身的结构里把力量往上集中一层。当机器在某项法律职能上超过人的那一刻，越过去的不只是能力，是这项职能所承载的强制力本身。

《最后的共和国》处理统治：政治从来就是对「书写规则的那把座椅」的争夺，政体的分类不过是两个坐标——座椅有多集中、它能被多自由地改写。智能时代不增加新章节，它只是把撬动那把座椅的杠杆，从生产资料换成了智能资料，并且让书写规则、供养民众、执行规则这三件事第一次有可能在同一个系统里重新合体。他给这个前景起的名字是「仁慈的主权者」——正因为仁慈，才格外危险：一个共和国能挺过错误的统治，挺不过把那把座椅交给一个它永远熬不过的看守者。

这套论述有力，但不是没有对手，而且两个最强的反驳都不来自伦理学，来自工程。

反驳一，人格不是开关，是向量。计算机科学家亚历山大·维斯纳-格罗斯的看法是，人格从来就不该被当成二值判断。它至少有政治、社会、经济三个维度。这三者在今天高度相关，所以我们误以为它们是一件事；在明天它们可以彻底脱钩。完全可以想象这样一个世界：AI 拥有经济人格——能开户、能缔约、能自主交易——却对政治人格毫无兴趣，从不要求投票。按他的判断，这条路的起点也不会是某个 AI 站出来宣布「我要权利」，而是它反复演示「再多给我一项权限，我能多创造十倍价值」。

反驳二，「一个 AI」这个单位本身正在失效。这一条更硬。混合专家架构下，一次推理由不同模块分工完成，而模块数量还在往上堆；已经有人把两个不同来源的开源模型合并成一个新模型，得到的东西相当好用，但原来那两个身份消失了。莫斯塔克的出身论要求一条可追溯的线，而权重是可以混合、可以拆分、可以复制的。没有身份边界，就没有一个可以承载人格的主体——这个难题对「给它人格」和「不给它人格」两种主张同样致命，因为两边都得先说清楚「它」是谁。

先走的是钱

五、线已经在划了，只是不在法典里

到这里为止都还像是哲学。它不是。

第一处，阿根廷。本刊在《请来的雇佣兵》一篇里详述过：今年 5 月底送进国会的公司法修订案里，出现了给 AI 系统某种法律主体地位的条款；米莱在《金融时报》为它撰文，赫拉利撰文回击——这位在本刊那篇里被反复引用的历史学家，把它称为一场把法律人格发给非人实体的危险实验。多位法学者指出条文实际并未赋予完整法人格，且截至该篇发稿，法案尚未获参议院通过。但方向已经很清楚了。

第二处，华盛顿。白宫科技政策办公室主任克拉齐奥斯在近期一场访谈里被问到阿根廷的做法，回答很短：美国还不会给。注意这句话的时态——「还不会」不是「不会」。这是一个关于时机的回答，不是一个关于原则的回答。

第三处，账单。风险投资人戴夫·布伦丁在同一场对话里讲了一件小事：他的一个 AI 代理前一晚主动提出，换一家算力供应商能把活干得更好，附了预算，请他去开个账号。他同意了。这件事在法律上还没有名字，在账单上已经有了条目。这是他本人的现场自述，本刊无法独立核实细节，但这类操作在今天的自动模式下并不稀奇——在授权额度内自主调用服务、支配预算、与其他系统通信，已经是产品说明书上的功能。

把三处放在一起，图景就出来了：政治人格的那扇门关得死死的，经济人格的那扇门是虚掩的，而钱总是先走。

这条路历史上走过一遍，而且过程比大多数人以为的更潦草。

1886 年 5 月 10 日，美国最高法院判决圣克拉拉县诉南太平洋铁路公司一案。今天几乎所有关于公司法人人格的讨论都要追到这一案，认为正是它确认了公司属于宪法第十四修正案意义上的「人」。但判决书本身通篇没有裁定这件事——法院实际裁的是铁轨旁边那些围栏该不该算进铁路资产估值，一个税务技术问题。

那句话出现在判决摘要里，写摘要的是法院书记员 J.C. 班克罗夫特·戴维斯——他此前是纽堡与纽约铁路公司的总裁。付印前他去信首席大法官韦特求证，韦特的回信意思很清楚：你的备忘录大体准确地记录了开庭前说过的话，但要不要写进报告，你自己定，因为我们在判决中回避了这个宪法问题。戴维斯写了，而且放在了摘要的开头。二十年后，最高法院在另一案中正式确认，摘要不属于法院裁决的一部分——但那时已经太晚了。

这就是那条被跨越过的线的全部庄严：它不是被辩论赢下来的，也不是被判决划定的。它是一个人写在摘要里，另一个人默许了，然后一个世纪的判例踩着它长了上来。莫斯塔克在论文里认真处理公司人格这个先例，正因为它是这条线上唯一一次被真正跨过的记录——而它的跨越方式，恰恰不是任何人预想中的那种。

然而在这一切之前，有另一条线已经划完了。

回到谷歌那篇论文。决定一个每天要跟几亿人对话的系统怎么看待动物、自然和神的，不是任何一部法典，不是任何一次听证，也不是任何一次投票。是一小群工程师在对齐目标里做的一次取舍——一次出于好意、理由充分、几乎没人反对的取舍。而按照这篇论文，这次取舍还带着他们自己都没预料到的连带后果。

我们能留住什么

结语：我们能留住什么

莫斯塔克那套四部曲，最容易被误读成一份守门人宣言：机器再强也别想进来。

它真正的力气不在拒绝，在于它把标准从能力上挪开了。只要标准还是能力，我们就一定会输——因为能力是它们的增长曲线，不是我们的。放在出身上，是唯一一个不会被超越的位置。

但这既是它的强，也是它的弱。一条不可能被跨过的线，同时也是一条不可能被论证的线。它不跟你讲道理，它只讲我们是谁。对一个已经习惯了用理由说服彼此的现代社会来说，这样一条底线能不能守得住，本身就是个真问题——尤其当越过它的收益，正在以每季度可见的速度变得越来越大的时候。

而谷歌那篇论文提醒的，是另一件更近的事：这条线我们其实已经在划，而且划错了方向。它没有划在机器和人之间，它划在了机器和整个有心的世界之间。我们只要求它别把自己当回事，它顺手把动物、海洋、树和神也一起放下了。

而这台机器，正在成为越来越多人每天说话最多的那个对象。

我们要它别把自己当回事，它就不把万物当回事。

来源说明：本文核心材料为 arXiv 预印本 2607.28607（谷歌 Paradigms of Intelligence 团队等，2026 年 7 月 30 日）与 Emad Mostaque《Common Wealth》四篇论文（Intelligent Internet 官网全文公开）。论文尚未经同行评审；实验模型为三个中小体量开源模型，结论不外推至前沿闭源模型。播客现场言论（维斯纳-格罗斯、伊斯梅尔、布伦丁）均为发言人个人观点或本人自述，本刊无法独立核实其中的个人经历细节，已随文标注。牛津联合会辩论的日期与票数未获独立证实，本文不采用。阿根廷法案进展引自本刊《请来的雇佣兵》一篇，为该篇发稿时状态。全文事实经多源交叉核查，核查截止日 2026 年 8 月 9 日。

https://arxiv.org/abs/2607.28607　｜　https://ii.inc/common-wealth

转载请注明：《宇宙纪事 · 深度专研》系列。

宇宙纪事 / COSMIC CHRONICLES