文章 · 2026.07.11
【挤压】后前沿时代:开源模型的挤压开始了
Kocher周 · 2026.07.11 · 原载微信公众号「可荐」
一场三人访谈,给前沿实验室算了一笔账:未来90%的Token,可能只留下10%的收入。模型不再是产品,编排、成本与算力成为新的赛点。
宇宙纪事 / COSMIC CHRONICLES
播客拆解
PODCAST BREAKDOWN · CNBC TECHCHECK · POST-FRONTIER ERA
后前沿时代:开源模型的挤压开始了
一场三人访谈,给前沿实验室算了一笔账:未来90%的Token,可能只留下10%的收入。模型不再是产品,编排、成本与算力成为新的赛点。
#后前沿时代#开源模型#GLM#OLLAMA#模型编排
过去两年,AI竞赛有一块清晰的记分牌:更大的模型、更好的跑分、更多的GPU。OpenAI发布,Anthropic回应,谷歌追赶,偶尔某家中国实验室拿出一个令所有人重新计算座次的东西。这块记分牌简单、粗暴、好用——直到它开始失灵。
7月9日,CNBC科技主播Deirdre Bosa在TechCheck直播中给这个失灵的时刻起了一个名字:「后前沿时代」(The Post-Frontier Era)。她请来三位嘉宾:Perplexity首席执行官Aravind Srinivas、Benchmark合伙人Peter Fenton、Ollama首席执行官Jeff Morgan。三个人的身份很有意思——一个是把「模型路由」做成公司战略的编排者,一个是硅谷最老牌风投里下注开源的合伙人,一个是让890万开发者在自己电脑上跑开源模型的工具作者。
节目的开场白只有一句话,却是全片的题眼:这是开源模型的挤压——更便宜的模型、更多的控制权,以及对「少数几家前沿实验室将拥有整个AI技术栈」这一叙事的正面挑战。
第一章 倒转的记分牌
故事从一家外卖公司讲起。
本周,DoorDash公开了自己的内部基准测试DashBench:不看公开榜单,不听发布会宣传,用自己的代码库、自己的真实拉取请求(PR)、自己的工程问题,给市面上的AI代码审查系统打分。结果颇有意味——没有任何单一模型赢下所有项目。简单的「单遍审查」只能抓出约30%的真实问题;DoorDash现役的生产系统,用Sonnet 4.6做侦察、Opus 4.8做深度复核,召回率53.6%,每个PR成本3.91美元;而表现最好的组合,是用开源的Kimi K2.6做侦察、前沿的Fable 5做复核的混合架构——加权召回率65.2%,F1达到75.3%,成本反而更低。
答案不是某个模型,而是一个系统:多个模型、不同分工,围绕DoorDash真正要解决的那件事编排起来。
Bosa在开场评论里点破了这件事的历史意义:过去几年,是实验室给模型跑分,市场做出反应;现在,是客户给实验室跑分。一旦企业开始自建评测,它们就不必再相信任何人的一面之词——哪个模型好用,自己说了算。思科总裁G2 Patel在节目播出后向Bosa证实:这件事已经悄悄发生了好几个月,公开基准与真实业务结果之间的落差,企业早就心里有数。
记分牌还在,只是握笔的手换了。
⁂
第二章 编排者的野心
第一位登场的是Srinivas。Bosa称他为「模型路由的元老」——早在这个词流行之前,Perplexity就在不同模型之间做调度了。
Srinivas的判断是:自从智能体载具(agent harness)兴起,模型路由的重要性呈指数级上升。没有任何一个模型擅长所有事情——他引用Anthropic首席执行官Dario Amodei的说法:模型之间的差异化,远比云计算之间的差异化要大。不同模型在不同能力、不同性价比区间各有所长,而领先者更替的速度快到没有企业能靠追榜单过日子。
「换一种说法:模型本身不再是产品。产品是载具——是那个把模型放进强大编排系统、为它配齐工具的东西。」——Aravind Srinivas
这不是空谈。就在节目播出当天,Perplexity发布了新编排模型的研究预览:基于智谱GLM 5.2做后训练,专门为其Computer智能体载具定制。这个模型内置了一个「顾问工具」——它被训练得知道自己的能力边界在哪里,一旦任务超出能力范围,就自动升级调用前沿模型。Perplexity宣称,配合顾问机制,这套系统达到Opus 4.8级别的性能,成本却只有Opus的0.344倍。Srinivas在访谈中口述该模型约为7000亿总参数、约400亿激活参数,并当场承认这个数字「可能不完全准确」——但量级足以说明问题:一个开源基座,加一层针对性后训练,加一个懂得何时求助的升级机制,就能以三分之一的价格逼近前沿。
Computer产品目前编排着超过19个模型,后训练的GLM充当廉价的底层默认,大多数任务根本碰不到昂贵的前沿模型。整套系统运行在美国境内的英伟达B200上。下一步,Perplexity打算用同样的配方后训练英伟达的Nemotron 3 Ultra——用美国开源模型复刻这套架构。
Srinivas把这称为最大的范式转移:把「路由技能」直接嵌进模型权重里,而不是在外面搭一个对模型能力一无所知的独立路由器。前沿模型在这个架构里降格为载具内部的一个子智能体、一件工具。你永远不必再纠结「用开源还是用前沿」——答案永远是:用最适合当前任务的那个,并把这个判断力训练进模型本身。
至于开源与前沿的差距,Srinivas给出的估计是六个月左右——中国实验室大约还需要六个月,就能拿出与Mythos、Fable或GPT 5.6同级的模型。他并不认为规模化撞墙了:GB300训练范式才刚刚开始,前沿与开源会在未来一两年内继续同步进步。但他补了一句关键的话:这几乎不重要了。即使双方的能力此刻冻结,部署与编排层面要做的事,也足够整个行业忙上很多年。
⁂
第三章 每瓦特的Token价值
访谈中段,Srinivas抛出了他反复布道的那个指标:每用户每瓦特的Token价值(token value per watt per user)。
逻辑链条是这样的:你问AI公司为什么收入不够多,回答是算力不够;再问为什么算力不够,回答是电力不够。当数据中心建设被电力卡住脖子,真正重要的就不再是Token的数量,而是每一瓦特电力换来的Token价值。美元最终都能追溯到电力,而电力是任何公司都补贴不起的东西。
顺着这条链,他给出了一个多数人还没消化的答案:既然电网里的电不够用,为什么不用每个人家里和桌上已经有的电?英伟达的DGX Spark在他口中是「一件惊人的硬件」——GB10芯片,CPU与GPU统一内存。数据中心里最大的电力损耗之一,是数据在CPU与GPU的内存之间来回搬运;统一内存在本地设备上一次性解决了这个问题,几百瓦的功率就能跑起相当可观的本地模型。
「AI是新的计算机。PC已经过时了,它们只是显示器。」——Aravind Srinivas
在他描绘的图景里,桌上放一台DGX Spark,接一台戴尔显示器,甚至不必再直接使用Windows——智能体通过连接器去操作Excel、PowerPoint和Word,人只负责委派任务。算力运行时取代操作系统,成为「计算机」本身。本地的编排模型处理绝大多数工作,只在必要时通过网络调用服务器上的前沿模型充当顾问——本地消耗的每一个Token都不需要付费。
Bosa追问了一个尖锐的问题:如果开发者、企业、政府都转向这种「桌边计算」,是不是就不需要那么大规模的基建了?Srinivas的回答很干脆:「肯定不需要今天这么多。」对于正在为数据中心资本开支辩护的整个华尔街,这句话值得单独记下来。而对犹豫的非科技企业首席财务官,他的类比是:这不是自建数据中心,这就是给每个员工配一台PC——大银行几十年来都在用集中管理的方式给员工发电脑,管理一桌一台的DGX Spark没有任何新增的风险。
这一章的民间版本,是本季所有人都在引用的那句话:你不会开着法拉利去买菜。Perplexity的浏览器与Computer产品已经这么干了——先用便宜的开源模型起步,只在任务真正需要时才唤来昂贵的强模型。
⁂
第四章 九成之赌
节目的下半场属于Peter Fenton和Jeff Morgan。就在同一天,Morgan的Ollama宣布完成6500万美元B轮融资,Theory Ventures领投,Benchmark、8VC、Y Combinator等跟投,累计融资8800万美元。Benchmark曾领投其A轮,Fenton坐在董事会里。
Ollama的数字本身就是一篇宣言:890万月活开发者,比今年1月翻了一倍;每周新增近100万次安装;渗透进85%的财富500强企业,包括航空、保险、医疗这些监管最重的行业;社区构建的集成超过67000个。而做成这一切的团队,只有14个人。
Fenton在节目里给出了那个注定被反复引用的预测:
「一个正在从逆共识变成共识的判断:未来18到24个月内,90%以上的Token将由开放权重模型生成——甚至可能今年年底就会实现。」——Peter Fenton
支撑这个预测的力量有两股。第一股是成本:当「够用」的开源模型可以在自己的算力上运行,前沿实验室在推理上收取的加价就成了可以绕开的东西——今天在前沿模型上生成一个Token,价格大约是开源模型的三到五倍。第二股力量更重要,也更少被华尔街理解:头部的应用型AI公司转向开源模型,首要原因不是便宜,而是性能。针对特定任务微调过的小模型,首Token延迟能有数量级的下降。Sierra这样的公司已经公开说过:这是性能驱动的选择,省钱只是附带的奖励。
但Fenton紧接着说出了全片最值钱的一句话——一个几乎所有转述者都会漏掉的悖论:即使90%的Token由开放权重模型生成,90%的收入仍可能流向前沿实验室。数量与价值是两条曲线。前沿模型继续统治最复杂、最贵、最新的任务;开源模型吞下海量的、已被理解的、可被界定的日常工作。挤压的对象不是前沿实验室的营收,而是它们的推理利润率——当客户随时可以把「够用」的负载搬走,加价能力就在系统性地流失。
那么前沿实验室怎么办?Fenton不认为它们会转身去给开源模型卖算力——那需要它们放弃对AGI的追求,改写整个商业模式。更可能的路径是「上移」:走向垂直应用,在设计、金融、医疗、生物这些利润率更可防御的领域做深,用差异化对冲通用智能的大众化。他还顺带提到了Token统治权的现状:单纯以Token量计,中国的开源模型占据主导份额没有疑问——GLM在多数使用者手里已经近似于Opus级的体验,业界都在期待下一个DeepSeek模型。
Morgan则从需求侧补充了一个朴素的观察:一家普通的财富500强企业,内部可能有数千个应用系统正在被AI改造。要让这场改造真正符合企业利益,答案是开源模型——尤其是与数据放在一起、就近部署的开源模型。企业在意的从来不是模型在哪里训练的,而是它在哪里运行、如何运行。
⁂
第五章 上下文即护城河
访谈的第三条线索,是数据。这一周,Palantir首席执行官Alex Karp在电视上炮轰前沿实验室:企业凭什么把自己最值钱的数据交给你们去训练?
Fenton的回应比Karp更冷静,也更彻底。他的论证是:AI在企业里兑现为经济价值,靠的是上下文与编排——把公司内部的工作流、专有数据、任务图谱映射到模型上。把这层上下文拱手交回给封闭模型公司,在逻辑上是不成立的。他用了一个精妙的类比:为什么同一个员工在这家公司比在那家公司更值钱?因为公司训练了他、给了他上下文、把他编排进了组织。企业对AI要做的,就是对这位「新员工」拥有同样的所有权。
这里藏着他对AI行业长期利润率的一个判断:模型之间的切换成本,只是重新灌注一遍上下文的成本。只要上下文归企业所有、可以随身携带,模型层就永远面对完全竞争。被问到「投资组合公司该不该请OpenAI或Anthropic的前置部署工程师」时,Fenton的回答是:我会跟他们辩论——谁拥有数据、数据能不能带走,这一串问题问下来,多数企业会自己得出结论。
Srinivas把同样的逻辑推到了消费者一端:你真的想再经历一遍互联网的历史,让所有数据躺在两三家公司的服务器里吗?家庭机器人需要高帧率推理,家里的音频、照片、日常影像——这些数据要么流向云端被别人的模型处理,要么留在你自己的硬件上被你自己的模型处理。他预言:未来每个人家里都会有某种形式的「数据中心」。而对不在乎隐私的人,成本论据同样成立。
这一章里最惊人的数字来自Perplexity自己的账本。Srinivas透露了一个客户案例:一家年收入约300万美元的单人公司,加三四个承包商,在Perplexity企业级Computer产品上的年支出约80万美元——而这笔支出帮它挣回了剩下的220万。十人以下的小公司贡献的收入,有时超过卖出几百个席位的大企业——SaaS按席位收费的模式,正在被按Token产出价值的模式宣判过时。他最后给出的市场坐标是:美国小企业与创业者的工资支出总额约3万亿美元——AI的产出价值应该扩散给这些人,而不是锁在前沿实验室和少数巨头手里。
⁂
第六章 华盛顿的选择题
三个人都被问到了同一个问题:面对中国开源模型的强势,华盛顿该怎么办?
Srinivas的回答分两层。第一层是坦然:他不担心在美国使用中国开源模型会招来政策反弹,因为英伟达会「替美国解决这个问题」——Nemotron 3 Ultra已经相当接近中国开源模型的水平,再迭代两三代预训练与后训练就能追平,Perplexity自己就在Nemotron联盟里参与后训练。第二层是一个技术判断,值得所有政策制定者细读:开源模型根本不需要达到Fable 5或Sonnet 5的水平——只要够到Sonnet 4.6级,配上载具后训练和顾问机制,就能以零头价格逼近Opus级效果。换句话说,追赶的门槛比外界想象的低得多。
在开放与管制之间,他的立场与黄仁勋一致:与其靠出口管制竞争,不如靠能力竞争;让别人构建在你的芯片和生态之上,才是对美国有利的格局。安全顾虑同样有先例可循——Linux与安卓都是开源软件,恰恰因为开放,漏洞才被修补得最快;开放权重模型的安全护栏,也可以用同样的方式建立。至于监管的正面文章怎么做,Srinivas的答案回到了经济学:如果你希望AI的红利广泛扩散到小企业,AI就必须足够便宜;而只有当模型以开放权重发布、按算力成本而非实验室加价定价时,这件事才可能发生。支持开源,符合美国自身的利益。
Fenton的警告则更直接。他听说过「限制开放权重模型获取」的政策讨论,他的判断是:这只会产生完全相反的效果——那些模型不会在其他地区被封锁,全球开发者会在别处形成临界规模,最终被孤立的是美国科技市场自己。他甚至点出了一种风险:前沿实验室可能游说出一套连它们自己都会后悔的管制——因为任何放弃「争取绝大多数开发者」的战略,在技术史上最终都会把自己困在市场的高端一角。他的建议是主动拥抱:支持开放,在包括中国在内的多个地区之间保持同一水平线上的竞争。
Morgan的回答最朴素,也许也最接近问题的本质:先去认识你的客户,尤其是美国本土的客户,弄清楚他们的AI旅程里到底需要什么。政策应该从需求出发,而不是从恐惧出发。
⁂
结语:挤压之后
「后前沿时代」这个词容易引起误解。它不是说前沿终结了——GB300范式才刚开始,前沿与开源都会继续进步。它说的是另一件事:前沿还在移动,但价值的重心已经离开了前沿本身,迁往编排层、部署层和上下文层。
把三个人的论点叠在一起,可以看到一条完整的传导链:客户自建评测,撕掉了公开榜单的定价权;开源模型加载具后训练,撕掉了前沿推理的利润率;本地算力与统一内存,撕掉了「智能必须住在数据中心」的假设;上下文的可携带性,撕掉了模型层的锁定能力。每一层撕掉的,都是过去两年支撑着前沿实验室天价估值的一块叙事。
但挤压不是替代。Fenton那个悖论值得再读一遍:90%的Token归开源,90%的收入仍可能归前沿。前沿实验室会继续拿走最难的问题和最高的单价,它们失去的是「拥有整个技术栈」的想象空间。而这个想象空间,恰恰是当下估值里最贵的部分。
上一个时代问:谁的模型最强?下一个时代问:谁拥有载具、评测与上下文?记分牌换了持有人,比赛才真正开始。
本文根据CNBC TechCheck直播节目「AI's Next Race: Cost, Control, and Compute」(2026年7月9日播出,主持人Deirdre Bosa,嘉宾Aravind Srinivas、Peter Fenton、Jeff Morgan)访谈内容整理评述,并结合Perplexity、Ollama、DoorDash同期公开信息交叉核实。
转载请注明出处。
宇宙纪事 / COSMIC CHRONICLES