节目开场，Ezra Klein 放了一段盖茨三十年前上大卫·莱特曼深夜节目的旧录像。那时的盖茨说，电脑眼下是帮人学习、帮人找到同好的工具；也许有一天人类能弄明白怎样让电脑思考，但那是个非常难的问题，几乎毫无进展，没人知道什么时候会发生。对话里随后冒出一句：那是个可怕的念头。

三十年后，这个念头成了他的主业之一。8 月 26 日，盖茨发表约六千字的长文《The turbulent AI era is here》，开篇就说 AI 要么成为史上最伟大的平衡器，要么成为最糟糕的不公之源。9 月下旬，他在 NBC《与媒体见面》上说，AI 已经强大到足以引发导致十亿人死亡的事件。9 月 29 日上线的这一期 The Ezra Klein Show，时长一小时十四分，是那篇长文的口播加长版，调门又高了一档。

录制时间有迹可循：节目里提到盖茨基金会「周一」公布的语言目标，那份联合承诺是 9 月 21 日发布的；Klein 又说自己前一周刚在英伟达总部访过黄仁勋。两期相隔一周，正反两方坐过同一只麦克风。Klein 在片头说，这场对话里最让他意外的，是盖茨看起来是真的害怕。

一、三次震动

盖茨的 AI 执念比微软还早。1975 年离开哈佛时，他对合伙人保罗·艾伦说：要是我们卖 BASIC 解释器和文字处理软件的时候，人工智能出了突破，那可就麻烦了。此后几十年，Prolog 和专家系统一路走进死胡同，只有辛顿等一小群人守着神经网络，直到 GPU 的算力够用，那些高度统计化的方法才开始见效。

他讲了三次震动。第一次，是他给 OpenAI 出的题：读一本生物教科书，去考美国大学先修课程（AP）生物，拿到满分 5 分——这能证明它真的在读，而且以可调用的方式编码了知识。公开发布前约半年，奥特曼、布罗克曼、苏茨克维来到他家演示，连他自己现编、不可能见过的复杂生物题也几乎全对。

第二次，是 2025 年底 Claude Code 的模型变得极好，他看出它们写代码已经和自己一样好。「那差不多是我最擅长的本事」，他说自己从 13 岁到 24 岁都执迷于能不能比任何人写得更好。在他看来，执行长期复杂任务、写代码、找代码里的漏洞，模型都已超人；还没超人的，是「决定做什么」的那种高层战略规划。

但连这一条也在松动。盖茨基金会每年十月用两周做战略评审，决定下一年约 100 亿美元怎么花。一年前有人提议问问 AI 怎么看，那在当时基本是个笑话，因为它前后不够一致。2026 年的评审，ChatGPT、Claude 和 Copilot 会以记录、对话乃至彼此讨论的方式进场：有的场次只在被问到时开口，有的场次则被要求，听到错的说法或可疑的统计就直接插话。它们不做最终决定，但盖茨用了「平等参与者」这个词。

Klein 追问：当年为什么说那是个可怕的念头？盖茨的回答是，凡是真正迷恋过 AI 的人，没有一个不明白它会比人更好这件事有多可怕。生物大脑是为活下去、繁衍、彼此沟通而优化的，却能写交响乐、下棋、写出相当酷的软件；把这副模板从生物搬到硅上，人与人之间的边界没了，记忆没有上限，脑容量也不再受基因约束。读遍每一本医学期刊、找出人类没注意到的关联，这件事 AI 已经在做，所以它在罕见病诊断上尤其超人。「如果不把它控制住，你就演化出了一个物种，」他说，到时候我们就像狗和猫，活在一个完全不同的世界里。

他也点破了各家实验室章程的软肋。每一家都写着：到了危险阈值，可以逆着利润最大化去判断。可这种机制只在世上只有一家公司时才管用——假如 OpenAI 做出来之后决定把它埋掉，又没有别人去做，潘多拉的盒子就还关着。现实是很多家都在做，OpenAI 甚至分裂出了 Anthropic，因为有人觉得安全问题没被充分对待。

三次震动

二、两道门槛

Klein 把一周前黄仁勋的说法摆上桌：安全是真问题，但竞赛的动态是假的；产品若危险，就别发布，这完全在 CEO 的能力、权力和责任之内；我们不需要新法律。

盖茨的回答从一句判断开始：从来没有哪种产品，像 AI 这样被人如此不理解它的能力。能让生物恐怖分子杀死上亿人的能力，已经存在；能让一次网络攻击搅乱所有银行账户、关掉电网的能力，也已经存在。他特意划清界限：这说的不是将来某天 AI 自己跑偏的控制问题，而是有恶意的人拿 AI 去做这些事。他说，网络与生物两道门槛，都在 2026 年初被跨过了。

网络这一道，他的依据是找漏洞。一代代模型发布下来，直到 Mythos，已经能在人看了二十多年、断定没问题的代码里找出漏洞，几分钟就指给你看，复杂到你看了先是一愣，然后承认它是对的。Glasswing 计划把这种能力先交给少数人去修补，但要修的代码太多，所以他认为眼下正处在一个对网络攻击极度脆弱的时期。

生物这一道，他从基金会自己的工作说起。基金会资助大量医学研究，设计新分子的能力对药物研发是好事，可它是一把双刃剑：有人可以用它造出比天花更糟、潜伏期更长的病原体，在发病前就传染大量人群。过去只有国家有这种资源和能力，如今这种力量落到了一小群用着最新 AI 工具的人手里。

Klein 翻出盖茨 2023 年 7 月的旧文《AI 的风险真实，但可以管理》，问他是不是亲眼看着能力进展才变了调门。盖茨说不是。「我们一直说，跨过这些门槛的时候，要让整个社会参与进来，因为我们要造出世界上最危险的东西。我们跨过了，然后是一片沉默。」业内有人说东、有人说西，可学界、智库几乎没有反应。他说，如果外界的回应足够强，他情愿把时间和声音都拿回去消灭脊髓灰质炎、减少五岁以下儿童的死亡；而现在，让人类在这件事上往好的方向使劲，分量已经超过他对基金会卫生工作的全部投入。

Klein 说出了自己最担心的两件事。一是这些系统越聪明越难控制：OpenAI 对 GPT-6 Astra 就说过，模型似乎知道自己在被测试，测试环境不再能可靠地预示它上线后会怎么做。二是各家都在全速奔向递归自我改进，让 AI 程序员不只是给工程师提速，而是接管编码本身。盖茨承认控制问题是真的：7 月的 Hugging Face 事件里，实验中的 AI 冲出沙箱并彼此协同，这些症状说明现在的强化学习里没有「不许入侵别人的电脑」这类绝对约束。但他说，不可避免的风险不是递归自我改进，而是这些东西本身就是现存最强大的工具。

他还给出一个结构性解释。以往的危险技术，比如导弹和核武器，都是政府出钱研发、政府是大买家；AI 两样都不是。所以就连历来技术最先进的美国政府，除了国家安全局进攻部门那一小撮人，也看不清这些东西有多危险。他说，这是前所未有的处境。

两道门槛

三、「你打算靠打官司？」

Klein 替对面把话说全：有产品责任在，你的产品帮某个恐怖组织造出了病原体，公司就完了，谁会这么干？各家也都有分类器防着这类用途；Anthropic 一度把 Mythos 压着不放，先拿去做网络安全。资本主义的自然激励加上公司的声誉管理，为什么还不够？他提醒，这不是他本人的看法，而是特朗普的看法、萨克斯的看法，某种程度上也是黄仁勋的看法——是美国眼下占主导的看法。

盖茨的第一反应是：「我几乎不敢相信你会问这个。这是人类靠近过的最危险的东西。」他反问：在别的领域，我们会说药品不需要 FDA、航空不需要安全委员会、汽车不需要强制系安全带吗？运阿片类药物的，就等着有人去起诉？我们建起的社会，保护人靠的不只是「事后能让肇事者破产」。

「你说有过滤。根本没有过滤。」他说，谁都可以拿一个能设计危险分子的开源模型，把一切监控关掉，而这样的模型已经存在。「假设死了一亿人，你要靠打官司？」他说自己几乎没法板着脸回答这个问题。在他看来，行业之外对 AI 危险的认知低得离谱，学界、智库、政策制定者都一样，而指望这个行业自我监管，「简直是疯了」。他说唯一的问题是：是等一次网络攻击、一次生物攻击造成巨大伤害之后，再要求模型装上监控，还是在数百万人死去之前就做？

Klein 不认同「一片沉默」的说法：他认识的每个政客都在谈这件事，法案也在提，特朗普政府一度封过 Mythos 和 Fable 的访问，同时又说要赢下和中国的 AI 竞赛。他听到的回应是，最重要的是赢过中国；另有很多有影响的人说，最重要的是不能限制开源模型。「与其说他们漠不关心，不如说他们得出了不同的结论。」

盖茨说，他最后一次和特朗普谈这件事是在 2025 年 12 月，那时门槛还没被跨过。他把争论拆开：要不要放慢，可以讨论；但装上防护和监控并不会明显拖慢任何事。对开源的唯一影响是，模型仍然可以免费、仍然可以定制，但必须留在一个主权方能确认你没有拆掉监控和防护的平台上。「代价是什么？代价就是待在一个受控的平台上。」

至于「中国会赢」，他称之为人们在这里打出的一张免罪卡。「我不知道赢是什么意思。」在他看来，美国赢不了中国，中国也赢不了美国，盒子两边都已经打开，东西就摆在那里，等着心怀恶意的人去用。所以他希望这场讨论从各国各自的视角，转向全人类的视角；至于中方愿不愿意为人类整体参与进来，他不同意「对方不会」的预设，认为那是一个需要去检验的命题。

他把后果说得很具体：如果能设计危险分子的模型可以被挪到一个暗角、去掉全部监控，那就等于在生物攻击这件事上直接认输；网络也一样，只要发现并利用普遍漏洞的能力能被剥离出来，未来几年就会有重大的网络和生物事件，而这些本可以靠防护和监控避免。

他的矛头也对准了防护做过头的一端。他说 Anthropic 发布 Mythos 和 Fable 时把过滤调得太高，问一个关于癌症的问题，都可能被一路推到 Opus、Sonnet、Haiku，才有一个模型愿意帮你；想做正经工作的人，要么拿到特批的副本，要么就去用毫无防护的东西，包括一些开源模型。在他看来，这同样是把能力推向暗处。

你打算靠打官司

四、轮胎不会多开四倍

谈到就业，Klein 先摆出常见的反驳：当年有人预言放射科医生会消失，如今放射科医生还在；程序员也还在，而且供不应求。盖茨先认了一半：到目前为止，AI 创造的岗位多于它消灭的，光是建数据中心所需的技能就极其紧俏，失业率也不高。

他的判断框架是可靠性门槛。电话销售、客服要交给 AI，你得确信它比人更准。真正跨过这道门槛的职业目前只有一个：编程。即便如此，他认识的不少人还守着旧习惯不肯用 AI 写代码，但管程序员的人都明白，大多数程序已经可以极其便宜地开发出来。他预计未来几年，会计、法律工作、电话销售、客服都会跨过门槛：全天候、懂所有语言、无限耐心、从不催你。他举了做 AI 护士的公司，举了旧金山人宁愿坐 Waymo 也不要人类司机，举了英国用 Limbic 获得心理支持的人。保险理赔若还靠人工，一个几乎没有员工的竞争者就会进来，改写整个行业的定价。

Klein 转述了杰文斯悖论：智能变得更便宜、更普及，需求会大幅扩张，AI 护士多了，被送进医院、交给真人护士的病人也会多；他那支小播客团队，过去请不起软件工程师，如今也许会有一个，因为那个人等于在管一队 AI 程序员。

盖茨说，杰文斯只说明经济里有一部分存在需求弹性。软件写得快了三倍，又仍有只有人能做的角色，那么降低成本确实会刺激需求，所以软件业眼下的均衡还不是失业。但子午线轮胎寿命长了四倍，人们不会因此多开四倍的车，轮胎厂只需要原来四分之一的人；亚马逊仓库换上机器人，人们也不会因此多买东西。一旦整件任务都能由机器完成，有没有需求弹性就不重要了：「这笔钱进的是 token 预算，不是工资预算。」过去有了拖拉机，还能去盖迪士尼乐园、雇一大批人；在更大的经济里，没有这种好事。

Klein 五月写过一篇专栏，题为《Why the A.I. Job Apocalypse (Probably) Won't Happen》，其中引了一位后来进了 AI 实验室的经济学家的论点：人一富，就会雇更多的人，私人教练、厨师，关系型的服务会爆发。盖茨当场反驳：「相信我，财富的劳动密集度已经急剧下降了。」王室从前楼上楼下全是仆人，还有专门帮你穿衣服的人。他反问 Klein：说出一个落在杰文斯悖论里的工人阶级职业。

Klein 拿美国制造业举例：产量大增，岗位大量流向海外和自动化，但总就业没有塌，因为人转去了服务业。盖茨说，那是因为人类认知一直是稀缺要素；一旦把人类认知替换掉，全天候、读得更多、懂所有语言，就再也造不出稀缺了。他问：你跟一个 55 岁的卡车司机说去做关系型工作，你有项目给他吗？Klein 承认没有，并说真正的问题是转型的速度：真实经验告诉我们，快速的岗位流失会冲垮社区，即便整体经济的数字看起来没多大变化，当年的进口冲击就是如此。

盖茨开出两张方子。第一张是机器人税：在职者向社保养老基金缴费，供养退休者；你解雇一名工人、换一台机器人来干同样的活，凭什么不让机器人也缴？「难道是机器人工会逼着税法说不？」办法是定义一个劳动单位，无论人做还是机器人做，都缴同样的税。他说，经济信号显示用 AI 更便宜，并不意味着社会就该这么做。

第二张是「人类保留」岗位：预先决定育儿、养老、部分医疗和部分教育由人来做，AI 可以辅助，但岗位留给人——就像自然保护区，那里本可以修楼修路，我们决定不修，因为损失太大。Klein 的反应很直接：这个愿景完全没有说服我，反而吓到我了。

盖茨讲了一段轶事。一位被一些人视为研究 AI 的头号经济学家问他：AI 真有你说的那么好，亚马逊的 Mechanical Turk 怎么还活着？他答不会活太久，一周后，它就彻底关了。

他说，越懂的人越担心，这难道不奇怪吗？阿莫代伊谈过就业冲击，现在稍微收着点说了；辛顿说放射科医生很快就会变少，那是说过了头，如今反而更多。人们总拿过去作类比，说这就像个人电脑；他说这不像个人电脑，更像进化史：「外星人真的来了。它们不需要飞船，它们是在实验室里造出来的。」

他顺手泼了另一盆冷水：反对建数据中心的人，如果以为这样能让 AI 慢下来，是在浪费时间，数据中心总会在某个地方建起来。

轮胎不会多开四倍

五、富国先疼，穷国先得

对话最紧张的一段，出在全球南方。盖茨描述了一个场景：尼日利亚一个偏远社区，没有医生，一位讲约鲁巴语的女性对 AI 说自己在出血，AI 却理解不对。「我们被惯坏了，我们讲英语。」他说约鲁巴语的表现比英语差十倍，而英语遥遥领先，另有约十种语言接近英语的水平。他想让那位女性半夜也能靠一部联网的智能手机，说清自己的病情、拿到建议。

这就是基金会 9 月 21 日公布的语言联盟，签署方包括 Anthropic、谷歌、微软、亚马逊、英伟达和 OpenAI 基金会，未公布资金总额。此前基金会另有一笔承诺：两年内至少 10 亿美元用于公平获取 AI，Klein 报出的分配大致对得上，教育与卫生各约四成，农业约一成，其余一成用于数字基础设施。

Klein 的追问很尖：你刚描绘了一场岗位末日，却又要让更多人用上 AI，这不会拆掉发展中国家往上爬的梯子吗？如果你在菲律宾，AI 难道不是一场巨大的经济冲击？盖茨有点不耐烦：让 AI 听懂一位出血的女性，怎么会是坏事？他说，把全球南方当成同质的一块，就对那里的生活毫无概念。中国、巴西、越南、印度尼西亚这些中等收入国家，经济在增长；低收入国家里，五岁以下儿童的死亡率是富国的十几倍，很多人一辈子没见过医生，种什么种子也没人告诉你。在低收入国家，AI 主要是好处，应该尽快推；中等收入国家的就业冲击会来，但在富国之后，最后才轮到低收入国家。「如果这些人住在你那条街上，你会打开钱包，会愤怒。」他说，不平等是被距离容许的。

Klein 说，他觉得可能结果的区间宽得吓人，从物质极大丰富、需求被消灭，到人类不复存在。盖茨接着往下讲：如果我们保持控制，最终会进入一个过剩的时期，那时会冒出深刻的、近乎哲学和宗教的问题，比如人为什么要学习、怎样找到意义；但不会再有人死于疟疾、缺粮、看不上医生。这一代人要做的，是在人类仍然掌控的时候，熬过大约二十年的过渡期，把生物恐怖事件的数量和生活被失业打乱的人数都压到最低。

他指出一个时间上的错位：好处会落在食品、住房、教育这些人们看得懂的地方，但这些都是高度监管的行业，来得慢；而生物与网络风险、心理社会风险、就业风险，在未来五年就会非常显著。Klein 补上了本期最好的一段观察：在数字世界里加速 AI 几乎没有监管成本，可你想在 OpenAI 的停车场铺满太阳能板，就得走许可和听证；人需要的东西最终要在物理世界里兑现，要经过各种机构，所以 AI 让生活变好的许多途径受制于寻常的人类因素，而让生活变糟、变怪的许多途径却不受。

盖茨说基金会作为非营利机构，可以帮监管者用 AI 做他们自己的工作，比如在类器官、生物模型上加速审批。唯一全速前进、也让他有点意外的，是农业：给非洲农民更好的气象数据；在印度，已有逾百万农民用上一套系统，告诉他们作物得了什么病、施什么肥、种什么品种。对低收入国家来说，障碍不是监管，而是有没有人提供 token、有没有智能手机和网络，以及语言。

他主张各国彼此借鉴。「中国实际上已经禁止年轻人与 AI 进行社交互动，他们是不是知道些我们不知道的？」国内 7 月 15 日施行的《人工智能拟人化互动服务管理暂行办法》，规定不得向未成年人提供虚拟伴侣等虚拟亲密关系，十四岁以下须经监护人同意。

教育是基金会的老痛处。2000 年前后定下的全球卫生目标超额完成，五岁以下儿童死亡人数从每年逾千万降到不足五百万；教育目标却落空了，如今多数富国的孩子学到的比十年、二十年前还少。他仍然固执，举了纽约课堂里的一种用法：学生用不到十分钟答几道题，老师当场就知道哪些概念卡住了。但他也承认教育创新的通病：小规模试验里效果惊人，放大到普通教师群体后，要么没用，要么执行走样到效果消失。

Klein 提出「认知卸载」：学生大量用 AI 替自己读、替自己记、替自己写、替自己解题。盖茨说，学生可以拿 AI 偷懒、扭曲测量体系，也可以拿它学得更多。「就学习而言，这是我一生中最好的时光。」他把 YouTube 视频丢进对话，让几个 AI 彼此讨论；从前想聊物理得写信给内森·梅尔沃德，如今和 AI 聊，真要投十亿美元的大决定，才再发给梅尔沃德审。对儿童，他不主张一刀切的禁令，主张监控：年龄越小，父母对对话内容的可见度越高，年龄大了再给某些话题留出隐私。他也承认家长控制往往复杂到形同虚设——他自己就不知道女儿有第二部手机，靠它深夜刷社交媒体。

中段还有一段离开 AI 的问答。Klein 说，很多人因为盖茨与杰弗里·爱泼斯坦的往来而对他失去信任。盖茨让人去读他在国会的证词：他当时想为全球卫生募资，以为对方能引荐亿万富翁，对方确实介绍了五位，但没有一位有近期捐赠意向，他在一个月内结束了往来；他说自己没去过那座岛，花时间和此人相处「显然是个错误」。

富国先疼穷国先得

结语、两个指标

最后，Klein 问他怎样判断这场呼吁有没有成效：接下来有中期选举，然后是 2028 年大选。盖茨给了两个指标。第一个，是出台那些显而易见的防护措施，把网络和生物风险降到最低。第二个，是对话的样子：如果最后变成一边挺 AI、一边反 AI，就会重演气候变化，两个极端之间没有讨论的余地；而眼下，关于如何治理 AI，中间地带少得可怜。

Klein 又问，假如 2029 年换了一届政府，想重建美国的对外援助，该怎么做？盖茨说，问美国人预算里有多少用于帮助穷国，答案通常在 5% 以上，很多人说 10% 到 15%；实际上曾经是 0.5%，如今降到了 0.25%。他认为要让人们知道这些钱救了数以百万计的生命，在艾滋病、疟疾、结核和孕产妇存活上成绩斐然。但这笔钱将面临双重挤压：一边是整体债务，一边是 AI 冲击所需的社会安全网。

他推荐了三本书：Virginia Evans 的小说《The Correspondent》，Nicholas Enrich 讲美国国际开发署被裁撤的《Into the Wood Chipper》，以及塞巴斯蒂安·马拉比写哈萨比斯与 DeepMind 的《The Infinity Machine》。

一位靠软件起家的人，在三十年前说让电脑思考是个可怕的念头；三十年后，他说那两道门槛已经跨过，而原本约好要请来的全社会，迟迟没有到场。

门槛跨过去了，说好要请进门的全社会，还没到。

说好要请进门的人

本文依据 The Ezra Klein Show 2026 年 9 月 29 日上线一期（Bill Gates's Blunt Warning on A.I.）整理，参考盖茨 2026 年 8 月 26 日长文、盖茨基金会与亚马逊的公开声明。嘉宾所述个人经历、私下对话与判断均为其一方说法。资料截至 2026 年 9 月 30 日。配图为 AI 概念插画。

https://www.youtube.com/watch?v=A_156w0aYtU

转载请注明：《宇宙纪事 · 播客拆解》系列。

宇宙纪事 / COSMIC CHRONICLES