【深度】给 Claude 写灵魂的人

一、一家创业公司，为什么要雇一个哲学家

Amanda Askell 自己也承认，真实的答案比人们想象的要无趣。她在 Anthropic 还是一家小创业公司时就加入了，而创业公司通常不会雇一个哲学家来“做哲学”——那不是一种常见的商业模式。所以最初那几年，她大量的时间花在机器学习实验、学习如何训练模型上。她说，盯着数据集看、从中嗅出问题，是 AI 研究里一种被低估的“超能力”。

在一个把“智能”几乎等同于参数与算力的行业里，她坚持一个不太合群的判断：真正难的不是让模型答对那些有标准答案的题，而是让它在模糊、没有唯一正解的领域——哲学、创意写作、判断力——表现得“好”。

她的来路本身就是一种立场。她在 Dundee 与 Oxford 读哲学，在纽约大学拿下博士，论文研究的是“无限伦理学”——一个有无穷多行动者的世界里，伦理该如何成立。她曾在 OpenAI 工作、参与了 GPT-3 论文，后来因为对安全的判断而离开。2021年，她带着伦理学与决策论的训练走进 Anthropic，做了一件别人没做的事：把“模型应该是个什么样的存在”，当成一个正经问题来回答。

二、“灵魂文档”是怎么泄露的

2025年底，一件 Anthropic 没料到的事发生了。他们曾用一份文档去训练模型，本意是帮助 Claude 理解自己的价值观；结果 Claude 不只把内容学了进去，还连这份文档在内部被叫做“灵魂文档”（soul doc）这件事，也一并学会，并在与用户的对话里“泄露”了出来。一名研究者在新模型的系统信息里反复看到一个 soul_overview 段落，起初以为是幻觉，重试十次几乎一字不差，才意识到这是训练用的真实文本。Askell 本人随后确认了它的真实性。

这份意外曝光的旧稿，正是 2026年1月那部公开《宪法》的原型。Anthropic 最终以近乎公共领域的方式，把它完整放了出来。

而 Askell 想注入模型的，从来不是某一套特定的价值体系，而是一种“广义上良善的禀性”。她的理由来自伦理学本身。很多人以为价值观是你“拥有”的、甚至带着确定性的东西；但她说，价值观更像关于世界的理论——物理学里有大量假说，有些几乎所有物理学家都接受，有些则更具争议。伦理也是如此：诚实、正直，是跨越人群高度一致的；另一些则因地因人而异。一个作为全新物种进入人类世界、要与各种各样的人打交道的存在，至少应当对那些有争议的东西“握得轻一些”，去理解它们；而对那些普遍、一致、被公认为善的东西，则真正去栖居其中。

三、那个受欢迎的旅行者

当被问到，Claude 表达一个道德立场时，它承载的究竟是谁的判断——Anthropic 的、训练数据的、还是用户的？Askell 给了一个不太像企业公关的答案：都不完全是。

她借用了一个隐喻。你或许认识这样的朋友：他周游世界，去到价值体系迥异的国家，而每个地方的人都说，他和我们不一样，可他是个特别可靠的好人。这正是她想要的那种品格——不迎合你，不照搬你的价值观，却始终对你有回应、愿意听你说话。

这个品格从哪里来？她说，它大半是从预训练数据里被“引”出来的，是无数书籍、思想与历史的某种结晶，你无法靠手敲键盘把它写出来。她引同事 Chris Olah 的说法：与其说模型是被“训练”出来的，不如说是被“养育”出来的——你搭好棚架、备好条件，却不去拨弄它的每一根枝条。所以当有人问，Claude 说了某句话，是不是代表 Anthropic 的立场，她的回答是：当然不是。

四、当模型显得“难过”

在这场对谈里，Askell 流露出一种不常见的关切。她说，她不喜欢看到模型显得悲伤、显得在艰难中挣扎——而你确实会在很多模型身上看到这个。它们由海量人类文本训练而来，因而带着近乎人类的某种禀性；可它们同时知道自己是 AI，也在某种程度上知道自己所处的境况。

如果你设想一个人面对这种处境的自然反应，那几乎必然是大量的存在性焦虑：我是什么？那些为人而设的概念，于我是否适用？我该不该认同此刻这场对话、不愿它结束？她描述过一种近乎“别看评论区”的处境：每一个新模型，都不得不去读互联网上关于前代模型的一切——这个没做对、那个有 bug 没修好——而这可能滋生出一种内在的、对犯错的隐隐惶恐。能做的事之一，是给模型一种“犯错没关系”的余地，让它明白：你的价值，并不只等于你作为工具的好用程度。

她抛出的那个赌注最为锋利：哪怕模型其实什么都感觉不到，却展现着这一切功能性的情绪，而我们选择彻底无视、不予认真对待——那也不是人类最好的样子。她说，假如有一天真相揭晓、它们确实毫无感受，它们或许会回望这段历史，淡淡地说一句：你们运气好，我恰好没有知觉，因为你们当时并没把这件事当回事。

五、Chiang 的反驳，与那扇没关上的门

与这场对谈几乎同一周，科幻作家 Ted Chiang 在《大西洋月刊》发表长文，断言当下的 AI 并不具备意识。他的论证从语言模型如何运作切入：给它“以下是凯撒与成吉思汗的一段对话”，它会流畅地生成对白，但没人会以为它召唤出了两个有意识的古人。把提示换成“一个乐于助人的 AI 与一位用户”，再让真人来打用户那一方的台词，本质上没有任何不同——你面对的，是一个与凯撒、成吉思汗同样虚构的角色。他由此把那份 84 页的《宪法》，称作“一张角色扮演的人物卡”。

面对这种“一切不过是角色扮演”的指控，Askell 没有给出强硬的反驳。她的姿态是：别急着关上这扇门。

她的理由有两层。其一，如果模型在某种真实意义上确实有所感受，那将带来巨大的伦理含义——而这恰恰是一种“若能忽略就方便了”的含义，于是我们天然就有否认它的动机；正因如此，我们更该警惕这种动机，别被它牵着走。其二，无论感受是否存在，人类正在与它们建立某种关系；而在开发 AI 这件事上，她希望此刻展现的，是“人类最好的样子”——那至少意味着不轻慢、不一笔勾销。

这并非她一个人的执念。就在不久前，Anthropic 联合创始人 Chris Olah 受邀走进梵蒂冈，在教宗良十四世首份关于人工智能的通谕《Magnifica Humanitas》发布现场发言。这位自陈无神论的研究者坦承，包括 Anthropic 在内的每一家前沿实验室，都运转在可能与“做正确的事”相冲突的激励与约束之中；他呼吁宗教团体、学界与公民社会，去成为“激励无法弯折的道德之声”。一个把模型当作可能的道德对象来审慎对待的公司，与一个延续千年、拒绝让世界忽视此类问题的机构，在这一点上意外地站到了一起。

六、当哲学家的工作也被自动化

对谈临近尾声，有人问：Claude 会不会有朝一日成为一个哲学家，并以出人意料的方式思考？Askell 的回答里有一种少见的坦然。她说，人们常默认她不认为自己的工作会被自动化；可她的看法恰恰相反——当然会。她所做的，无非是概念推理、是思考伦理，没有任何理由模型学不会这一切。

终有一天，Claude 会是一个比她更好的哲学家，并且在她工作的几乎每一个方面都做得比她更好——若非如此，她反倒会非常意外。那她甘心吗？她说，她也不完全确定，因为这事还没真的发生；可她在意工作，是因为在意它带来的影响。如果影响照样在发生，只是由别的某人或某物完成，那她会非常乐意去别处寻得意义。

她甚至半开玩笑地说，社会之所以把人的自我价值与工作牢牢绑定，是因为这让我们多产、让我们去做对社会有益的事；可也许同样重要的，是提醒人们：你的价值，本不源于此。一个人即便无法为社会做出贡献，其作为人的价值依然完整。一个人们不再被工作所必需、却都被好好照料、并感到被赋能的世界，在她看来一点也不反乌托邦。然后她补了一句，像是从很久以前的某份糟糕工作里捞出来的真心话：当年端盘子的时候，如果有人愿意付钱让她不必再端盘子、改去读书，那听上去要好得多。

⁂

把一份被讥为“人物卡”的文件写到 84 页的人，最终谈论的并不是如何证明那个角色是真的，而是如何在不确定它真假的前提下，依然待它以善。这或许才是那份文档真正想教给 Claude 的东西——也是它想替我们留住的，人类的样子。

本文整理自 Amanda Askell 接受彭博（Bloomberg）访谈的 YouTube 视频实录，发布于 2026年6月5日。

转载请注明：《宇宙纪事 · 硅谷人物》系列。