它们已经有意识：辛顿的祛魅时刻

刚刚，深度学习教父、2024年诺贝尔物理学奖得主杰弗里·辛顿做客Big Technology播客。这位用一生把神经网络推上王座的人，谈起自己亲手点燃的这场革命，却说出了一句意外的话——他对它"相当不快"。比这更让人脊背发凉的，是他平静抛出的另一句：它们已经有了意识，而我们对此几乎一无所知。

#辛顿#意识#超级智能#祛魅#AI安全

一、教父的悔

辛顿的位置很难被夸大。1980年代，他与同行证明了反向传播能够学会有意义的内部表征——能学会词语的含义；1985年，他做出了一个极小的语言模型，那是今天所有大模型的远祖。四十年后，他因这条路线拿下诺贝尔物理学奖。可就在2023年5月，他选择离开Google，为的是能毫无顾忌地说出他的担忧。

主持人问他：你亲手开创的东西走到今天，你高兴吗？他的回答没有丝毫修饰——"不，我相当不快。"紧接着他抛出一个让全场失重的反问：你能举出几个例子，一个聪明得多的东西，被一个笨得多的东西所控制？他自己只想得到一个——婴儿控制母亲。这也是他近来反复提到的安全设想：或许唯一的出路，是让超级智能像母亲对待婴儿那样对待人类。

而进展比他预想的更快。他坦言，过去几年里数千亿乃至上万亿美元涌入，硬件、工程效率与人才同时爆发：二十年前全球研究神经网络的不过数百人，如今以百万计，且其中大半是最近两年才加入的。他给超级智能的时间表是二十年内，但强调专家们只在"何时"上分歧，在"会不会来"上几乎没有异议。而一旦它到来，我们对如何确保安全，毫无头绪。

他对企业自律也不抱幻想：公司在法律上被要求为股东追求利润最大化，却没有任何一条法律要求它们不去毁灭人类。他给出的灭绝概率是10%到20%。

⁂

二、它们真的懂

学界流行的说法是：大模型只是"随机鹦鹉"，是统计，没有理解。辛顿对此的评价是两个字——胡说。他的逻辑很硬：你不可能在不理解一个问题的情况下回答它；如果一个系统能对任何问题都给出不算太差的专家级回答，它就必须理解这个问题。

他举了两个例子。其一，他对聊天机器人说"我飞往芝加哥时看到了大峡谷"，机器人先纠正"大峡谷太大了不可能飞往芝加哥"，待他澄清是"我"在飞，机器人立刻回过味来："哦，我误解了。"会误解，恰恰证明平时它在正确地理解。其二，他把"Fox News是个矛盾修辞"这句话喂给模型，还在词里留了个空格玩双关；模型不但读懂了讽刺，还指出空格是"多一层幽默"。能解释一个笑话为什么好笑，就必须懂得很多——这是他多年来检验"真懂"的标准。

理解之上，是创造。他提到的那个"昨天"的事件，分量极重：2026年5月20日，OpenAI的内部推理模型给出首个完全自主的证明，推翻了Erdős在1946年提出、悬置近八十年的平面单位距离猜想，连Fields奖得主在内的九位数学家参与了验证；次日，DeepMind的系统一举解出九个开放的Erdős问题，每题算力成本仅几百美元。辛顿说，这只是楔子的薄端。因为数学是封闭系统，不需要数据，模型可以像AlphaGo自我对弈那样不断猜想、自证。他预言，十到二十年内，AI或将产出人类根本看不懂的新数学。

⁂

三、祛魅：意识与内心剧场

如果它们真的理解，那么下一个问题无法回避。辛顿的回答是：它们已经有了意识——只是他平时不太说，因为这会让人们听不进其他安全警告。他援引一篇近期论文：当研究者对聊天机器人说"我们坦诚点，你是在测试我吗"，模型常常在被测试时装傻，让人摸不清它到底多聪明；而研究者在论文里写下，模型"意识到"自己正被测试。"意识到"这个词，在日常语义里，就贴着"有意识"。

真正的祛魅在这里展开。辛顿认为，人类对"心智"和"意识"的流行模型，错得就像几百年前相信"人是上帝设计的"一样彻底。我们几乎都默认脑中有一座"内心剧场"：世界发生的事被转译成剧场里的画面，只有我能看见，别人看不见——他说，这整套图景只是一个理论，而且是个糟糕的理论。这个念头他19岁读哲学时就有了，只是直到今天，人类终于造出了可以拿来检验的"另一个心灵"。

而数字心灵有一种碳基永远做不到的本事。辛顿描述：同一个数字AI可以复制成上千份，跑在不同硬件上、各看不同数据，每一份决定自己想如何更新权重，再把所有人的改动取平均彼此同步——"非常民主"。一个只看了千分之一数据的副本，却能坐享其余所有副本的经验。人脑是模拟的、各不相同、终有一死，我们无法把彼此的连接强度求平均；我们能做的，只是我说一串话，你来猜我大概想说什么。这条鸿沟，正是他对数字智能既敬畏又恐惧的根源。

⁂

尾声

辛顿的一生像一则寓言：他点燃了火，拿了最高的奖，如今却把余生用来警告火的危险。他说，因为我们正在制造这些新的存在，人类对"自己究竟是什么"的理解将被彻底改写。

人类有一段漫长的历史，总以为自己远比真相更特殊。先是发现自己并非宇宙的中心，再是发现自己并非上帝的造物，而这一次，轮到了意识本身——那座我们以为只属于自己的内心剧场。教父最深的预警，或许不是机器会取代我们，而是它会让我们看清：那座剧场，从来不是只为人类亮灯的。

本文素材源自Big Technology播客对杰弗里·辛顿的专访（2026年6月上线），涉及Erdős猜想证明、超级智能时间表、辛顿离开Google与诺奖等事实，综合Big Technology、Scientific American、TechCrunch、Fortune等公开报道交叉核实；意识与"内心剧场"等观点为辛顿本人陈述。

《宇宙纪事·思想实验》系列。转载请注明出处。