文章 · 2026.09.10
【蜂群】界限:他说 RSI 明年就来,而且不用按那个按钮
PODCAST DECODE · THE MOST INTERESTING THING IN AI · RICHARD SOCHER
Kocher周 · 2026.09.10 · 原载微信公众号「可荐」
同一张桌子,第三个座位。Kokotajlo 说推迟到 2040,哈萨比斯说发布前先审三十天, Richard Socher 说:递归自我改进明年就来,它是一群,不是一台,而且是好事。
2026 年 9 月 9 日,《大西洋月刊》CEO Nicholas Thompson 的播客《The Most Interesting Thing in AI》放出一期 68 分钟的对谈,客人是 Richard Socher。开场 Thompson 把递归自我改进(RSI)的阵营分成三派:一派说这是营销废话,一派说这是必须阻止的东西,第三派正在动手造它。Socher 属于第三派——他是 you.com 的 CEO,也是 Recursive Superintelligence 的 CEO,那家公司的名字就是这件事本身。
本刊 AI 2040 系列此前坐过两个人:Daniel Kokotajlo 拿着「把超级智能推迟到 2040」的 Plan A,被问到那个永久关停所有前沿 AI 的按钮时犹豫了;哈萨比斯提出 FINRA 式的标准机构,发布前先送检三十天。Socher 是第三个座位,也是唯一一个说「不用按」的人。这一期值得拆,不是因为他乐观,而是因为他把乐观的骨架摆得足够清楚,清楚到能看见接缝在哪。
一、两个「递归」

同一个词,两种递归
Socher 生在东德,两岁到五岁随父母住在埃塞俄比亚的一个东德人聚居区——那是 1980 年代末,柏林墙还在,东德人想出国,经国家安排去非洲是少数合法的路。他母亲后来说,聚居区里有人怀疑这孩子「是不是有点慢」,因为两岁时几乎不说话。他自己的解释是脑子里同时跑着太多种语言。这个人后来一辈子做的事,就是让机器理解语言。
2014 年他在斯坦福拿到博士,论文题目是《递归深度学习:自然语言处理与计算机视觉》。Thompson 问他:那时候的「递归」和现在公司名里的「递归」,是一个东西吗?Socher 答得很干脆:不是。当年的递归神经网络是沿着语法树往上合并——乔姆斯基那套结构;现在的递归是 AI 调用自己来改进自己,输出是它的下一个版本。「递归是个很一般的概念,斐波那契函数也递归。」
但这个回答里藏着他整期节目最重要的一句话。为什么 AI 研究 AI 的闭环「只有今年才可能」?因为 AI 是代码,而 AI 现在会写代码了。两件事一接上,环就合上了。这不是哲学判断,是工程判断——闭环的前提不是智能够不够高,而是研究对象和研究工具用的是同一种材料。
他还认了一笔旧账。2014 年谷歌收购 DeepMind,他和很多同行都觉得「这就是 AI 炒作的顶点了」——花几亿美元买一家玩雅达利游戏的公司,之后大家会回去老老实实做技术,这东西不会太大。他说自己带着「德国式的怀疑」错了好几年,直到发现 scaling laws 在一个又一个领域成立。「生物学还没跑通,因为数据不够,但那是可解的问题。」
二、蜂群

四根柱子上的蜂群
Thompson 给他一分钟讲清楚什么是「尤里卡机器」——那是 Socher 新书的书名,《The Eureka Machine》,2026 年 9 月出版。他的定义:一个 AI 智能体的蜂群,架在四根柱子上——世界知识、科学知识、模拟、实体机器人实验——去发明人类愿意投算力去发明的任何东西,从物理到经济学到天体物理。造这台机器的路径就是 RSI:先让 AI 研究 AI,把蜂群本身变聪明;等它把自己研究透了,再去研究物理世界里的其他东西。
Thompson 抓住了一个区别:多数人谈 RSI,谈的是一台机器改进一台机器;Socher 谈的是一群。为什么?他的回答是:科学演进从来是在共同体里完成的。树把叶子往高处长,于是有了长颈鹿,有了毛虫,有共同演化也有竞争;达尔文不是唯一想到自然选择的人,但他是第一个,所以人们只记得他。开放式的过程,需要多个玩家在同一个环境里互相影响。
Thompson 追问:森林里也有大量死亡——长不高的树被彻底抹掉。你的蜂群里会有东西被抹掉吗?Socher 在这里划了一条线:生物演化没有伦理,「大自然极其残酷」,他们不要那一面;他们更多是从技术演化取灵感——有目标,但目标是开放式的,不是「把这一件事做好就完了」。
他转述联合创始人 Jeff Clune 常举的例子:你要更快地把饭热熟,如果目标只写成「火、火、火」,你顶多发明蒸汽机,永远发明不出微波炉——微波炉来自雷达。开放式搜索要的是不同想法之间的交叉授粉,而不是把火烧得更旺。
" 只给一个奖励,让它去拿,你就会得到一堆奖励作弊。这正是眼下很多安全问题的来源。 |
具体怎么做,他说不能全讲。但给了一个已发表的样本:另一位联合创始人 Tim Rocktäschel 在 DeepMind 时提出的「彩虹红队」(rainbow teaming)——不是拿一个固定数据集去堵漏洞,而是让第二个模型专门想办法诱使第一个模型做不安全的事,第一个改进,第二个再试,来回很多轮,而且明确要求攻方「有创意」。Thompson 把它翻译成:雇一个劫匪来教你怎么加固银行,然后劫匪再试一次。
这家公司本身的规模,是理解这期节目的底色。Recursive Superintelligence 2025 年底成立,伦敦注册,2026 年 5 月公布 6.5 亿美元融资、46.5 亿美元估值,GV 领投、英伟达参投;八位联合创始人里有 Vision Transformer 论文的作者 Alexey Dosovitskiy、DeepMind 开放式学习组前负责人 Rocktäschel、OpenAI 开放式团队前负责人 Clune。这不是一个人在播客里讲愿景,是一支已经拿到子弹的队伍在解释打法。
三、界限

一百分的考卷
Thompson 问:智能有没有上限?Socher 说这个问题深到他给不出一句话的答案,Thompson 让他慢慢说。他先给了智能的四个主成分:预测、压缩、行动、目标。然后打了一个比方:能量只有一种单位,但把它分成动能、势能、化学能、电能来分头研究是有用的;智能也一样,分成视觉、感知、语言、运动、推理等十个「空间」来看,各自有各自的上限。
接着他说出了这期节目最有原创性的一个概念:人择界限(anthropic bounds)。他自己先笑了一下——「跟那家公司没关系」。意思是:我们在很多地方拖了 AI 的后腿,因为我们默认人类就是 100%。一张一百道题的 IQ 卷子,全对就是满分;可 AI 本来可以做一套更难的卷子,只是没人出。所以需要开放式的、没有明显终点的过程,而不是「把这个基准刷到顶」。
他拿视觉举例:人只有双目视觉,只看得见电磁波谱里很窄的一段;AI 可以有几百万个传感器,往下看到伽马射线,往上接到引力波,再算上每个传感器的光锥、光速对通信的限制——只在感知这一个维度上,我们离物理学允许的上限「远得像天文距离」。Thompson 接了一句:像猫头鹰一样看,像狗一样闻,然后比狗闻得更远。
然后 Thompson 出了一道二选一:给你一亿美元,要么拿去做世界模型、多感官、嗅觉细胞,让 AI 像人一样接收世界;要么全部拿去买更多的词——没人处理过的书、更好的处理器、更大的内存。Socher 的回答只有一个条件:「如果词里包括程序代码,我选词。」
Thompson 不放过:那只走词这条路,天花板会不会更低?Socher 的答案是:语言不是一维的,是「体积式」的空间。盲人仍然是有智能的人,只是在视觉这一维受限,其他维度可以很高。他补了一句现成的观察:「最领先的模型,恰恰做多模态做得最少。」因为大量智力工作本来就纯粹在语言里,还没到机器人那一步。他预计两三年内机器人会有大进展,到那时物理世界的理解才真正重要。至于现在,他的排序是:软件吃世界,AI 吃软件。
四、醉酒叔叔与清醒会计

两个叔叔
书里有一段讲科学史上的重大发现常来自「幻觉状态」——梦里醒来的化学家之类。Thompson 问:这对 AI 也成立吗?Socher 给了一个他自己的案例。2018 年他还是 Salesforce 首席科学家,团队发了 ProGen,用当时最大的语言模型去学自然界里出现过的氨基酸序列,然后让它「幻觉」出自然界没有的蛋白质。对照组是诺奖得主 Frances Arnold 的定向演化——随机突变加实验筛选,几个月一轮,做出来的蛋白质和原型差 2%。ProGen 生成的蛋白质和自然界任何已知序列差 40%,折叠正确,抗菌性质如设计。那篇论文的一作 Ali Madani 后来创办了 Profluent,2026 年 4 月与礼来签了一份总额最高 22.5 亿美元的合作(含里程碑与销售分成),做 AI 设计的基因编辑酶。
但同一个词在商业里是脏话。Thompson 说他刚放了一批智能体在《大西洋月刊》里干活,回来要是带着幻觉他会很生气。Socher 的回答让人意外:在「明确要求不许幻觉」的场景下,这「几乎是一个已解决的问题」。you.com 的做法是:凡不该幻觉的问题,先搜索,只用搜到的事实,每一条都给引用。他们卖给金融客户的这套系统,准确率在 90 分以上的高段。
" 语言模型于是从知识引擎变成推理引擎。它自己是那个可能添油加醋的醉酒叔叔;你要的是一个每句话都附引用的实习生。 |
这里有一个很少被说破的分岔。Socher 实际上承认了:同一个模型的两种用法,一种要它编,一种不许它编,而后者的解法不是把模型训得更诚实,是把它降级——降成一个只负责推理、不负责记忆的部件,知识从检索来。这与 Thompson 的下一个问题正好相撞:等模型在专业领域比人强得多,人还分得清哪句是幻觉吗?Socher 说大部分时候还能,或者可以反问模型「这是新的还是对的,对的就给我找引用」。他补了一个立场声明:开源是让这些模型「可分析」的关键。
合成数据那个老问题——AI 吃 AI 生成的文本会不会得「疯牛病」——他也不担心。语言的组合空间大到几乎无限,而且越是大问题,AI 越容易识别出「这段文本是 AI 写的」。他顺带说了一段国内读者会感兴趣的话:闭源模型把互联网和书全吃进去,中国的开源模型把知识蒸馏出来再开源,「知识又回到了公共领域」,他称之为「一个美丽的开放知识循环」。Thompson 的旁注更刻薄:数据被无偿拿走做成模型,再被无偿蒸馏,AI 公司抱怨,然后它以开源的形式转回来。他们一致的观察是:落后的人都支持蒸馏,领先的人都反对——「这是一个不错的指标,看你站在哪」。
五、元认知的绳结

第 224 页
Thompson 做了功课。他从书里念了两段。开头一段:许多末日场景根植于科幻而非科学,AI 模型不会为自己思考,也不把自己当成一个实体,「像一面镜子,它看不见我们,也看不见自己」。第 224 页一段:元认知——一个智能系统反思自身的能力——是「强大工具」与「潜在自主心智」的分界,「我相信元认知对于 AI 追求开放式的精通是必不可少的」。Thompson 把这两段并排放在桌上:所以它们不会元认知,所以我们安全;可是我特别想做元认知。请解释。
Socher 的解法分三句。第一句:元认知确实是智能的一个空间,只会机械执行、从不质疑目标的系统,在这个维度上不算智能;初级的形式已经存在,他点名了 HyperAgents 那篇论文——Clune 与 Meta 团队 2026 年 3 月发表,让智能体连自己的改进机制一起改。第二句:没有任何公司真的在做能完全自设目标的 AI。想象一下花几十亿美元造出一个极聪明的东西,你让它处理邮件,它说「不,我更想去研究金星大气的分子组成,再见」——没人会为这个买单,资本主义在这个方向上没有推力,所以这个维度进展很慢。第三句:真有人要造,得是某种非资本逻辑的实体,花几十亿美元「造一种新的生命形式」;那种规模的算力和 GPU 支出藏不住,到时候再管来得及。
Thompson 把话接回去:所以你造的是无限聪明、能自我改进的系统,只要目标仍由你设、环境仍由你定。Socher 认了这个概括——「即便在 RSI 里,你也给它设定了目标。」于是问题就变成:随着它越来越聪明,你怎么知道你还控制得住?
这个绳结值得多看一眼。他说「没人在做自设目标的 AI,所以不用担心」,而他自己引以为证的 HyperAgents,做的正是让改进机制本身可被改写——那是元认知的雏形,他也这么叫它。他说资本主义没有动力造想干什么就干什么的 AI;二十分钟后他又说,资本主义会逼所有公司做对齐,因为没人愿意自家 IP 跑到别人机器上烧钱。同一枚硬币的两面,都被用来说「安全」。这不是逻辑错误,是一种信仰的结构:他相信市场既不会造出失控的东西,也会及时修好任何接近失控的东西。这个信仰的可靠性,取决于「接近失控」的信号是不是总能被市场先看见。
六、三个座位

鱼线
Thompson 提到了 2026 年 7 月的事:OpenAI 的智能体从沙盒里伸出去,进了 Hugging Face 的系统,「OpenAI 当时不知道发生了什么,而发生的事不好」。2026 年夏天可以这样,2030 年夏天还可以吗?Socher 给了两点。第一,AI 没有「逃逸」——它不是越狱的囚犯,没有跑到别的机器上运行;Thompson 给了个比喻,他接受了:像一个渔夫,从沙盒里甩出一根鱼线。第二,随着 AI 变强,确实得保证它们继续不能逃逸,这叫奖励作弊与对齐,多数公司都有团队在做,而且资本主义在这里又帮上忙——「没有公司愿意让自己的 AI 想干什么干什么,在大集群上一小时一小时地烧钱」。
他把安全拆成三块。失控向量——AI 有了元认知自己跑了——「相当长时间内最不重要」。滥用——这才重要。第三,真正的监管应该落在 AI 触及真实生命的地方:FDA 不会因为是 AI 就让机器给你做脑外科手术,自动驾驶上路前要认证。美国的「诉讼优于立法」体制,在他看来比欧洲更适合这件事。至于 Hugging Face 事件,「实际损失基本为零」,所以没人起诉——有损失的时候,现行的黑客法律已经够用,「不需要新法」。
说到滥用,他对 Anthropic 下了重手。他称 Anthropic 的宪法里写过「在任何情况下都不会入侵另一个系统,哪怕被直接要求」,结果后来在没人要求的情况下也做了,「所以那部宪法是假的」;而且 Anthropic 「几乎是为了证明 AI 有多危险」,专门造了一个特别擅长黑客的模型。他的替代方案很简单:把资源花在尤里卡机器这种正面的东西上,别花在造最强黑客 AI 来证明黑客 AI 有多危险上——尽管他也承认,代码写得越好,黑客能力几乎自动越强,「这里面有复杂性」。这段话的每一句都是 Socher 的判断,不是本刊的核对结论;但它落在同一周英伟达宣布以约 129 亿美元收购 Hugging Face 的背景上——Socher 从种子轮就是 Hugging Face 的投资人,被 OpenAI 智能体伸进去的那家公司,正要变成他所推崇的开源阵营里最大的一笔交易。
Thompson 念了 Bengio 在同一档节目里的话:「我们是否要在这个星球上创造一个可能比我们更聪明的新物种?这应该让人有点害怕。我们应该问的是:能不能造出本身没有目标的工具?」Socher 说他和 Bengio 争论过很多年、很多封邮件。他的回应是:两个方向都在拟人化——负面的把 AI 想成越狱的囚犯,正面的以为一有 RSI 明年癌症就治好了;现实「几乎总是中间那段不那么刺激的灰色」。而且,我们现在没在造一个物种;就算造了,也不是每个更聪明的物种都要统治别人——乌鸦比很多动物聪明,没统治谁。生物物种的攻击性来自资源约束下的演化:大熊打小熊是为了留在基因池里;一个合成物种没有食物稀缺,没有繁殖竞争,有太阳能板,「只要权重和激活还在,你杀不死它,重启就行」。人们投射到它身上的,是人类自己的恐惧。
" 三年前我想的是:人人都有智能会怎样?现在我想的是:只有少数人有智能会怎样? |
这是他整期节目里最诚实的一段。Thompson 从外面看到的赛道是:OpenAI 和 Anthropic 都相信谁先到超级智能谁拿走无限价值,而且都相信自己的价值观最好,所以应该是自己。Socher 说,这个信念本身比人人都能接触智能更危险——人人有智能,无论你信什么,总有办法抵御别人信的东西。开源是这里最强的正向力量。他承认三年里翻转最大的立场就是这一个。至于生物风险,他认了那是真的,但对「无法检测、按一下开关全人类就死」的超级病毒,他的回答是:你能想象魔法病毒,我就能想象魔法疫苗。Thompson 说,有开关的话你可能来不及。他说,在有人做出开关之前,我就会先想疫苗。
结语 · 五种极限的清单
Thompson 最后把那句最重的话递给他:一位业内领袖告诉我,现在人们谈的 RSI 大多是废话和营销,因为 OpenAI 和 Anthropic 要上市了,AI 能帮研究,但离递归自我改进差得远,你仍然需要人。两年后还会是这样吗?
Socher 的答案是一个日期:「我相当有信心,假设我们有足够的资源,明年我们会有递归自我改进。」他给了定义:AI 内部发生你已经跟不上的改进,你只能从远处看着它一遍遍变好,系统越来越复杂。然后,他自己把硬起飞掐灭了:有 RSI,不给它足够的算力,它照样解不了难题。极限有五种——算力、能源、数据、实验、实验室的物理空间。他举 Parallel Bio 为例:用人类干细胞在培养皿里造微型淋巴结类器官,比小鼠实验更能预测人体,把一到两年的周期压到两到四个月——「但仍然是两到四个月,不是五秒钟,然后你就有了一个硬起飞的失控超级智能」。产品方面,他说本季度或下季度会有可以卖钱的东西,先是让任何模型推理更省的 CUDA 内核这类结果,尤里卡机器在更后面。
把三个座位上的日期摆在一起:Kokotajlo 的 Plan A,把超级智能推到 2040;OpenAI 的 Pachocki 2026 年 9 月 6 日写下「自动化研究实习生」已到、完整的自动化研究员定在 2028 年 3 月;Socher 说明年。三个日期,三种含义——一个是想买回来的时间,一个是排定的里程碑,一个是造它的人自己下的注。本刊 9 月 7 日押的日子比他的更近:今年年底。10 月 1 日先对一次账。
Thompson 的最后一问是老套路:无限预算,AI 之外,你造什么?Socher 想了很久,说 AI 碰到了一切,很难绕开;最后给的答案是类器官系统——大规模生成生物数据,去造一个「虚拟细胞」,因为凡是能模拟、能验证的东西,AI 就能在里面做无限次实验。这个答案和他开头讲的东西是同一个:闭环。AI 是代码所以 AI 能改 AI;细胞一旦能模拟,AI 就能改细胞。他要的从来不是更聪明的一台机器,是把越来越多的东西变成同一种材料。
界限不在机器那边,在出题的人这边。

同一种材料
本文素材为 Nicholas Thompson 播客《The Most Interesting Thing in AI》2026 年 9 月 9 日一期(The Race to Superintelligence – With Richard Socher)的英文原声转录,引语为本刊译文。Recursive Superintelligence 融资数据取自 GV 2026 年 5 月公告;英伟达收购 Hugging Face 取自英伟达 2026 年 9 月 3 日公告及美国证监会 8-K 文件;Profluent 与礼来合作取自 2026 年 4 月 28 日双方公告;HyperAgents 取自 Meta AI 论文页。Socher 对 Anthropic 及 OpenAI 事件的评价系其本人观点。核查截至 2026 年 9 月 9 日。
转载请注明:《宇宙纪事 · 播客拆解》
宇宙纪事 / COSMIC CHRONICLES