宇宙纪事文章 · 2026.06.05
【刹车】Claude已写下八成代码，Anthropic请求世界为AI按下暂停键
Kocher周 · 2026.06.05 · 原载微信公众号「可荐」
2026年6月4日，Anthropic旗下研究机构发布报告《当AI建造自己》。它披露了一个让外界屏息的数字，又提出了一个更反常的请求：为前沿AI的发展，全世界应当准备一个可以一起按下的"暂停键"。这是一家领跑者，在亲手给自己脚下的加速器，寻找刹车。
当一家跑在最前面的实验室，请求世界为它按下暂停键
#Anthropic #递归自我改进 #AI刹车 #Claude #JackClark #奇点
刹车：当AI开始建造AI
2026年6月4日，Anthropic旗下研究机构发布报告《当AI建造自己》。它披露了一个让外界屏息的数字，又提出了一个更反常的请求：为前沿AI的发展，全世界应当准备一个可以一起按下的"暂停键"。这是一家领跑者，在亲手给自己脚下的加速器，寻找刹车。 |
一、Claude写下了Claude八成的代码
报告抛出的第一个数字就足够沉重。截至2026年5月，合并进Anthropic生产代码库的代码，逾八成由Claude撰写——而在2025年2月Claude Code发布之前，这个比例还只是个位数。公司CFO的公开估计更高，达90%以上。落到人均，2026年第二季度，一名典型工程师每天合并的代码量约为2024年的八倍：人不再敲代码，而是指挥与审阅，由模型来写。
报告把这条路径画成了一道清晰的阶梯：2021至2023年，人类敲下每一行；2023至2025年，聊天机器人帮忙生成片段；2025至2026年，编码智能体能自己写文件；到今天，自主智能体已能运行代码、并把数小时的工作再分派给别的智能体。阶梯的尽头标着一个问号——"闭环"：未来的Claude，可能由Claude自己持续改进。
这正是"递归自我改进"——一个AI系统能基本不靠人类，自主设计并开发它的继任者。Anthropic反复强调：尚未到达，也并非必然。但它给出的判断是，这一刻"可能比多数机构准备好的时间，更早到来"。
衔尾蛇：一个开始书写自己尾巴的系统，人退到了一旁，只负责审阅。
二、指数的证据
支撑这份警告的，不只是修辞，还有数据。独立机构METR的核心指标显示，模型能可靠独立完成的任务时长，正从大约每七个月翻一倍，加速到约每四个月翻一倍。具体到Claude这条线——
更关键的是模型对"做研究"本身的加速。Anthropic每次发新模型都跑同一道题：让模型把一段训练代码改到尽可能快、又不出错。2025年5月，Claude Opus 4平均提速约3倍；到2026年4月，Mythos Preview做到了约52倍——而一名熟练的人类研究者，要四到八小时才能达到4倍。在更开放的任务上，模型的成功率半年内涨了50个百分点，至76%；在"下一步该怎么走"的研究判断上，模型胜过人类选择的比例，从去年11月的51%升到今年4月的64%。
能力的外溢已经可见。报告提到的Project Glasswing项目里，Mythos Preview在头几周就在全球最重要的系统中找出逾一万个高危与严重级漏洞——以至于网络防御的瓶颈，已从"找漏洞"变成了"打补丁来不来得及"。Anthropic也给了诚实的注脚：以代码行数衡量产出会高估真实增益，基准测试也并不完美。但每一条能测的曲线，至今还没有看到拐弯。
翻倍的间隔在缩短：从四分钟，到十二小时，再到十六小时以上。
三、造物者请求刹车——以及质疑
由此引出报告最反常的部分。Anthropic说：如果能有效放慢这项技术，给社会结构和对齐研究留出追赶的时间，那"很可能是件好事"。但它的承诺带着严格的前提——只有当其他处于前沿的实验室，以可验证的方式同时停手，它才会跟进。单方面暂停几乎没有意义，只会换一个领跑者而已。
难就难在"可验证"。一次真正的暂停，需要包括美国与中国在内的多国主要实验室，在同一套规则下同时停下，并且彼此都能核查对方确实停了。可训练一个模型，远比藏一座导弹发射井容易；投入是通用的，偷偷抢跑的诱惑又极大。Anthropic以历史上的《中导条约》为例，承认那样的核查体系花了数十年才建起信任，而"我们没有那么长时间"。它把三种未来摆上桌：曲线见顶的S型放缓、人类仍掌舵的复利式增效（它认为这最可能）、以及AI开始建造继任者的完全递归自我改进。
质疑随之而来，且分量不轻。分析师Rob Enderle认为，这更像一场战略营销：向投资者炫耀能力，塑造"先进到需要持续巨额融资才能被安全管理"的叙事。Constellation的Holger Mueller则直接追问动机——"它是想冻结现状好追赶，还是想保住领先？" |
背景给质疑添了柴火。Anthropic刚以9650亿美元估值完成新一轮融资，反超OpenAI成为全球最值钱的私营AI公司，万亿美元IPO在望。于是批评者说得更直白：这是一家近万亿美元公司的"恐惧营销"，是以安全之名为对手设限。平心而论，无论动机如何，它这次公开的内部数据，是同行里最具体的一批；而它呼吁的"可验证的协调暂停"，确实是一个真问题——只是实现起来，难得近乎奢侈。
刹车要管用，两座塔得同时亮灯——而此刻只亮了一座。
⁂
把这一记，放回最近这一连串的声音里，它的位置就清楚了。库兹韦尔说决策权正在静默转移，辛顿说它们已经有了意识，Meta用143亿美元豪赌入场——而现在，一家跑在最前面的实验室，亲手把"暂停键"摆上桌面，却又承认：没有全世界一起按，这个键毫无意义。指数曲线第一次遇到一个想给它装刹车的人；而刹车能不能装上，取决于人类这种线性的生物，能否在被甩开之前，先学会彼此协调。
《宇宙纪事》· 产业深度
资料来源：Anthropic研究机构报告《When AI Builds Itself》（2026年6月4日），及《华尔街日报》同日报道，综合SiliconANGLE、Slashdot、RTÉ、Let's Data Science等公开报道交叉核实；批评观点引自具名分析师公开评论。
转载请注明出处。