十五岁发表第一篇物理论文，二十岁拿到加州理工的理论物理博士；Mathematica 的作者，Wolfram|Alpha 的作者，谢尔盖·布林年轻时在他的公司实习过。斯蒂芬·沃尔弗拉姆这个名字，过去几年在 AI 圈里出现的方式，多半是一个插件——ChatGPT 学不会算数的时候，接上 Wolfram 就会了。

这位本刊老熟人——谈「计算不可约」绕不开的那个人——最近在一档长访谈里又坐了下来，把 AI 从头讲了一遍。节目的标题很冲：AI 的未来，会和正在卖给我们的那一套很不一样。这正是整场谈话的总基调。他不唱衰，也不吹捧，他做的事情更让人不舒服：把 AI 放回计算的版图里，告诉你它能做什么、为什么不能做另一些事，以及这里面哪些部分，是生意。

下面分四段拆。

一、两条路

1956 年「人工智能」这个词被造出来的时候，最初的设想很直白：能不能把人脑做的事自动化？六十年代初的文献读起来和今天惊人地相似——「比人脑更强」「不可避免」。一个甲子之后，口号几乎没变。

沃尔弗拉姆认为，从那时起其实一直有两条路。

第一条路是形式化。逻辑把论证的结构形式化，数学把世界的一部分形式化，到了我们这个时代，计算是形式化世界的最新方式。问题变成：能不能造一门足够精确的语言，让城市、颜色、化学物质、一段推理都能被计算地表示？他说自己人生的大部分时间都花在这件事上，这就是做了四十年的 Wolfram 语言。这条路的特点是可以一层一层往上搭——每一步都是实心的，塔不会塌。

第二条路是模仿。不去形式化世界，而是去模仿做事的那个器官。1943 年，神经元第一次被理想化成一个数学模型；此后几十年，神经网络始终不太灵。他八十年代初自己也试过，什么有趣的结果都没得到，一度认定这条路不会有戏。转折出现在 2011 年到 2012 年前后：把网络做深、在 GPU 上猛训，突然就能认出猫和狗了。

这件事反直觉的地方在于，人们原以为简单网络做简单任务最容易成功，结果恰恰相反。网络太小，训练时会卡死在原地——没有足够的空间让它「挪」到你想要的地方。大反而容易。没有人预料到，连做这件事的人自己也没有。

两条路

ChatGPT 在 2022 年越过的那道线，他用电话来比。十九世纪的人原理上早就知道声音可以转成电、沿电线传到另一头；问题是另一头的人听不清在说什么。原理上可行，工程上不可用，直到某一天越过某个门槛，突然就听得清了。语言模型也一样：原理上存在了很久，突然有一天，「说得通」了。

它为什么说得通？他的解释是：语言里藏着比我们以为的更多的规律。句子层面我们早知道有语法——名词、动词、名词；但 ChatGPT 的成功说明，在意义层面还有另一层结构，一种「语义语法」，规定了概念之间怎么拼接才有意义。

这句话主持人先说出口，沃尔弗拉姆接了过去：人类语言里的规律，远比我们想象的多。这是整场谈话里第一个让人不太舒服的地方——LLM 的成功，与其说证明了机器的伟大，不如说暴露了语言的可预测。

二、九成与十成

那么两条路是对手吗？他的回答是：不是对手，是互补。业内最大的错误之一，是把全部赌注押在「把模型做大」上，忘了另一条路恰好补得上它的短板。

他给出的分工原则非常朴素，几乎可以抄下来贴在墙上：

如果一件事做对九成、八成就算赢，交给 AI；如果一件事必须百分之百做对、一次失手就是灾难，就别交给它。

AI 是统计的、非确定的。它可能九成时间是对的，但在医疗、金融这类场景里，那一成意味着有人要付出代价。这类事情要的是保证每一次都成立，哪怕代价是它在大部分时候没那么聪明。

于是中间长出了一种工作方式，他认为正在成为一种重要的范式：

你用自然语言模糊地说出想要什么；LLM 把它翻译成一段 Wolfram 语言代码——一段精确的、可计算的表示；这段代码写得足够清楚，人能读懂，能确认「对，就是这个意思」；确认之后，它就成了一块砖，你可以拿它往上盖整座楼。

软接口，硬底层

AI 在这里的角色，是语言界面。过去几十年我们有图形界面，现在有了语言界面——可以「说」给机器听。但界面背后，得有一层硬的东西托着：精确的计算、精确的事实。

他讲了一段旧事来证明这一点。2009 年 Wolfram|Alpha 上线时，他去见当年 AI 的几位先驱，对方的反应是：真的？你做成了问答系统？这不可能，我们试了好多年，从来没成过。

后来他想明白了为什么能成：因为他们手里先有了一门精确的计算语言。上面那层自然语言是模糊的、难懂的，但目标始终是落到一门精确的语言上去。今天用 LLM，目标完全一样。一旦你把事情落到精确语言里，你就进了比赛：可以计算，可以往上搭塔，结果是对的。

他把这件事放进了一个几百年的尺度里。十七世纪以前，人们大多只是「谈论」事情；从那时起，人们发现可以把事情形式化，做数学，而数学的结果真的有用——过去几百年人类所有的科学与工程之塔，都盖在这个想法上。他说，如果当年的 AI 是在十七世纪发明的，我们也许永远不会盖起这座塔。形式化的力量没有上限，而人在脑子里做的那种「浅层」工作，是另一回事。

三、石墙

要理解 AI 能做什么、不能做什么，他说，必须先懂一个概念：计算不可约。

八十年代他研究过大量极简程序——规则简单到只是黑白格子怎么根据邻居变化——结果发现，规则再简单，行为也可以复杂到无法预测。这引出一个结论：很多系统，你即便知道它全部的运行规则，也没有捷径知道它最后会怎样。唯一的办法，是一步一步把它算完。没有更快的公式，计算本身是不可省略的。

自然界里很多重要的系统是这样的，数学里也是。工程上我们一直在刻意回避这类东西，但它们无处不在。

神经网络恰恰不做这件事。它的本事是找捷径——找到一个模式，快速给出答案。这和人很像：人擅长的也是看出规律、套用答案。你对一个人说「在脑子里把这段代码跑一遍」，人做不到；AI 也做不到。它可以像人一样调用工具，调用 Wolfram 语言去跑计算，但那不是它自己在里面做的。

如果在一个需要跑上百万步的计算里，每一步都有一点出错的可能，你最终拿不到正确答案。所以对不可约的那部分世界，没有替代方案：只能老老实实、可靠地算。

⁂

然后是整场谈话里最好的一个比喻。

他说，想象你要砌一堵墙。工程的做法，是先烧出规格精准的砖，按设计好的砌法一层层码上去，得到一面结实规整的墙。另一种做法，是你手里没有砖，只能从地上捡石头，这块大致合得上，那块也大致合得上，最后也凑出一面墙。

机器学习，就是第二种。

计算宇宙里散落着大量「不可约的计算团块」，训练一个模型，就是在找这些石头，一块一块地往墙上塞。结果是一面差不多能用的墙。我们可以把它改进得更好，砖砌的方式也许将来会在某处取代它；但你要是问「这块石头为什么放在这里」——没有答案。不是答案太复杂我们暂时看不懂，而是根本不存在一个比「把所有步骤看一遍」更短的答案。

石墙

他认为 AI 和神经科学的根本处境，都是这堵石墙。我们了解单个神经元怎么工作，也知道一些心理学；但中间那一层——从神经元放电到说出下一个词——我们不知道，也许永远讲不出一个人类能消化的故事。脑电波是一种「整体规律」，但它告诉我们的，恰恰不是我们想知道的那部分。

他把这放进技术史：骑马的年代，没人问马的内部怎么运作，踢一下它就跑快；工业革命带来了看得见齿轮的机器，我们才养成了「用一样东西就该懂它怎么工作」的习惯。他的判断是，那个时代正在结束。

⁂

由此推出的，是一个无法回避的二选一。

你可以说：我要我的机器完全可解释。那么它就只能做可以被解释的事。你也可以说：我要我的机器做一台计算机能做的一切。那你就必须接受计算不可约，接受它无法被解释——而不可解释，总是和意外一起到来。

他把这条推到了对齐问题上。「我要 AI 只做对的事、永远不做错的事」——先不说「对」很难定义，就算定义了，你也会发现它每隔一阵就让你吃惊。这是这类技术的本性：要它全部的好处，就得接受它全部的坏处。

但他并不绝望。计算不可约的坏消息是，你没法事先知道会发生什么；好消息是，不可约的海里总有无穷多个「可约的小口袋」——在那些地方，你确实能说清楚一些事。比如「永远不要按那个按钮」，这类约束大概不难做到。真正难的是「永远别做错事」，因为首先你得精确地说出什么是错——而要精确地说出来，又回到了第二章那门精确的语言。

他还给了一个日常的参照：我们坐的飞机，机翼周围的湍流至今也没被完全理解。但我们没有因此不坐飞机，而是学会了在它的边缘上工作。

四、会说话的马

谈到行业，沃尔弗拉姆说话变得非常不客气。

先是基准测试。每家公司都说「我们有一个基准，我们会做到」——问题是，基准越难解，做基准的人就越多，这本身就不是一个好的衡量。

再是竞赛数学。他自己办过面向中学生的项目，见过很多搞竞赛数学的孩子，他们会告诉你：我们背了一百个技巧。这就像魔方比赛——你背下公式，几秒就能还原，但这不说明你聪明，只说明你记住了。所以 AI 在竞赛数学上的表现，在他看来没什么特别值得惊讶的。

然后是自动定理证明。他说，迄今为止，自动定理证明真正率先发现、并且不平凡地有趣的定理，也许只有一个——是他自己在 2000 年找到的：布尔代数（逻辑）最简单的单条公理。证明是机器生成的，三百零七步，二十多年来没有人能把它讲成人话，他自己试过，让 LLM 解释也试过，都失败了。这正是一块不可约的计算石头——而这恰恰是 LLM 式 AI 不擅长的那类工作。

LLM 擅长的，是从人类已有的东西里扒出碎片。数学史上有几百万篇论文，大多进了训练数据；如果答案藏在「这篇论文的这个东西加那篇论文的那个东西」，它有机会。这非常有用——他从七十年代就开始用在线文献检索，深知「三十年前就有人在某个犄角旮旯里解决过」这种发现的价值。但它能帮科学走得更快，却造不出原本不存在的新知识。

这和他九月底刚发的一篇长文是同一个调子：伟大的数学，首先是由它提出的问题来定义的；而问题，来自人。

会说话的马

再往下，他泼了一盆更冷的水。主持人问：这些年模型每变大一次，就涌现出新能力，这种惊喜还会持续吗？

他的回答是：某些任务确实需要一定尺寸的「脑子」，越过门槛就会做了。但裸能力本身，这几年其实没怎么涨——认猫认狗的能力，好几年没有本质进步，已经好到基本不出错；「给我写一个关于 X 的故事」，这几年也没多大变化。我们看到的进步，比如它以前读不了 PDF、现在能读了，那和模型本身没有关系，是外面装的工具。真正提升的，是「你让它做什么它就做什么」——而那靠的是一遍遍更用力地训练它听话，以及大量工程技巧。

他预期接下来会有新东西：人形机器人会有自己的「ChatGPT 时刻」；有朝一日，模型的感知不再只是人的两只眼睛、两只耳朵，而是遍布世界的几百万个传感器。但他强调：这更像一条持续上升的曲线，而不是某个奇迹即将降临。

⁂

然后他讲了那个寓言。

有个人对国王说：给我钱，我能教会马说话。一年过去，马没开口。他说：我需要更多的钱，因为马就要说话了，总有一天会说话的。

他说，这是一个了不起的商业策略。定义一个叫 AGI 的愿景，朝着它前进——这是很好的生意。至于它是不是科学？不怎么是。

他承认，自己认识的行业领袖大多私下同意：是的，我们需要这些计算工具。但对他们来说，问题在于，AI 本身才是那个能持续收钱的东西。而计算，比把一切都塞进神经网络便宜得多。

至于「超级智能」，他的看法几乎是在拆台：在计算的意义上，超越人类太容易了，一台计算器做算术就远远超过人。真正的问题从来不是能不能超越，而是超越之后的那些东西，我们在不在乎。

结语：人在乎的那一小角

他举了一个画画的例子。让生成式 AI 画一只戴派对帽的猫，它画出来了。然后你在模型内部的表示空间里往外走，会生成大量统计上和人类图像「相似」的图——但人认不出它们是什么，它们看起来很怪，我们也没有词去叫它们。

人类语言大约有五万个常用词。这五万个词所覆盖的，只是那个空间里极小的一角——这是猫，那是狗，那是马蒂斯的画风。文明在慢慢发明新词，慢慢把这一角往外扩，但计算宇宙比我们探索过、命名过、在乎过的部分大得多。

人在乎的那一小角

所以「原创发现」其实很容易：随便写一个小程序跑起来，就是前人从未见过的东西；把锶和镥混在一起，大概也是一种从没人造过的材料。难的是下一个问题——我们在乎吗？它和人类的任何东西有联系吗？

他最近还用同一套极简程序去模拟生物演化：让简单的规则一步步变异、筛选，去逼近某个目标。地球生命从共同祖先走到今天，大约走了上万亿代，他估算历史上存在过的生物约有 10 的 40 次方个——放在计算量的尺度上，这其实不算多。结果是，这些极简系统确实能达成目标，而它们达成目标的方式复杂得惊人：几百万个像素各干各的，最后就是做到了。你问它是怎么做到的？又是一面石墙。

绕了一大圈，他落在一个可能出乎很多人意料的位置：AI 的力量，不在于计算本身，而在于把计算和人类在乎的东西连起来。它是一个界面，一座桥。桥的这头是人的那一小角，那头是浩瀚、不可约、大部分与我们无关的计算宇宙。

这大概就是「和正在卖给我们的那一套很不一样」的真正含义。卖给我们的是一匹终将开口的马；他描绘的，是一面没人能解释的石墙，一块块可以验证的砖，以及一个始终需要人来回答的问题——这里面，哪些是我们要的？

墙可以是石头砌的，
但要砌在哪里，得人说了算。

本文据斯蒂芬·沃尔弗拉姆 YouTube 访谈视频（youtu.be/6wc3OuLUiOk）整理，文中观点均为意译转述，非逐字引语。逻辑公理证明步数据其本人 2025 年发表的文章；纯数学一节参照其 2026 年 9 月 28 日长文《What's the Future for Pure Math Research in the Age of AI?》；生物数量为其本人估算。核查截至 2026 年 10 月 13 日。

转载请注明：《宇宙纪事 · 播客拆解》系列。

宇宙纪事 / COSMIC CHRONICLES