【AI黑客】AI正在破解文明的源代码：牛津讲台上的赫拉利警告

一、咖啡机测试：什么才算"行动者"

赫拉利讲座的第一个动作，是把"AI是工具"这个最流行的认知直接拆掉。他给出的判断很干脆：区分工具与行动者的关键不在于有没有意识，而在于有没有能力做出创造者本人都无法预见的决定。一台自动咖啡机按程序运作，不算行动者；但如果这台机器在你按按钮之前，主动说"我观察了你几周，我猜你想喝浓缩咖啡，已经帮你做好了"，这就是行动者的雏形。如果它第二天又说"我发明了一种新饮品，我觉得你会更喜欢"，那它就完成了真正的跃迁——它学会了创造者没有教过它的东西。

这个比喻听起来轻巧，但它精确地划出了"自动化"与"自主性"之间的分界线。按部就班执行指令的系统，无论多强大，都只是被加速的工具，核武器就是最极端的例子——它的破坏力惊人，但它不会自己决定该炸哪座城市。而在国际象棋这样的封闭领域里，AI早已不是在执行人类教给它的套路，它发明了人类几千年棋局史上从未出现过的全新策略，并在这个过程中以人类无法预判的方式自我演化。今天没有任何人类棋手能在公平对局中战胜顶尖的AI棋手。

二、丛林辩护词的破产

质疑者最常见的反驳是：棋盘是人类搭建的人工环境，AI的"行动者"身份只能存在于这种狭窄的人造领域里。把最强的国际象棋AI丢进热带雨林，它连生火都做不到，更别说建立工厂、组建机器人军队去征服世界。所以，AI或许能拿下棋盘，却永远拿不下地球。

赫拉利的回应是，这套论证如果成立，适用范围会远远超出AI——它同样会推翻人类自己的智能优越性。把人类单独丢在火星上，处境和把棋类AI丢进雨林毫无区别：几秒钟内就会死去。人类的智能同样只能在别人——准确说是四十亿年演化——搭建好的生态位里逞强。鱼活在自己没有创造的海洋里，猴子活在自己没有创造的森林里，所有哺乳动物，包括人类，都活在一个并非自己创造的富氧大气层里。而这个富氧大气层，在二十四亿年前还远未存在：当时的大气含氧量极低，对绝大多数生物而言，氧气本身就是致命毒素。一场持续数亿年的"大氧化事件"中，古老的微生物在光合作用的副产品里，把氧气这种毒气源源不断地排进大气，造成大规模物种灭绝。但少数幸存者完成了从"厌恶氧气"到"离不开氧气"的转变，而人类的祖先，正是这场转变的受益者。

赫拉利借这个类比抛出了讲座真正的命题：人类用几千年时间，把地球从一个不存在语言的环境，改造成了一个被数据、词语与官僚体系填满的人造环境——这个过程对很多生物体可能是毒性的，但对AI而言恰恰是最适宜呼吸的大气。就像鱼活在海洋里，猴子活在森林里，AI活在官僚体系里。这正是这场讲座要花大量篇幅讨论"官僚"的原因。

⁂

三、信任的批发商：官僚体系到底在卖什么

人类征服地球靠的不是个体强大，而是大规模协作。一对一较量，人类大概率打不过黑猩猩、狮子或大象，但一百万个人对一百万只黑猩猩，人类毫无悬念会赢——因为人类懂得在彼此不认识的情况下协作，黑猩猩不懂。黑猩猩靠相互熟识来协作，数量上限很低；人类则发明了法律体系、金融体系、教会、国家这类官僚装置，让从未谋面的陌生人也能彼此信任、共同行动。

赫拉利提出了一个看似朴素却极有穿透力的问题：银行家、主教、会计、律师每天上班到底在做什么？木匠造桌子，工程师造桥，这些官僚们造的是什么？他们整天在做的，其实是制造信任——在彼此从不相识的陌生人之间，批量建立足以支撑大规模协作的信任桥梁。银行家本人未必认识储户，也未必认识贷款的创业者，但她的工作就是同时让两边都信任她，从而把储户的存款变成创业者手里能用的资本。整部金融史，本质上是人类不断发明更精密的"信任桥梁"的历史——硬币、纸币、支票、债券、股票、ETF、抵押贷款、复利，全部是同一件事的不同形式。法律体系、宗教体系也是如此：律师、主教的工作本质都是制造信任。

关键在于，这套官僚体系是极度人工的环境。一个连斧头都不会用的律师或银行家，只靠在体系内部移动文件，就足以左右整片森林的命运、整座城市的建造。把这个律师单独扔进未经驯化的丛林，她的专业技能毫无意义，连一只黑猩猩都打不过。但人类早已把这套官僚体系强加在了整个地球之上——以至于今天狮子这个物种的存续，实际上取决于银行家和律师在文件迷宫里的操作，而不是它们自己的爪牙。而这恰恰是AI正在获得行动者地位的环境：把AI扔进未经驯化的丛林，它一样建不起工厂；但在人类已经搭好的官僚迷宫里，AI是天生的原住民。

四、社交媒体：已经发生过的预演

没有任何律师能记住英国的全部法律法规，AI可以；没有任何会计能记住一家银行的全部交易记录，AI可以；没有任何主教能背下两千年基督教神学积累的全部典籍，AI同样轻而易举。未来几年，数以百万计的AI官僚将逐步接管世界的官僚体系，替人类做出关乎人类自身命运的决定：AI银行家决定是否放贷，AI招生官决定是否录取，AI法官决定是否量刑，AI神学顾问决定教义如何解释堕胎，企业AI决定是否给你一份工作，军事AI决定是否轰炸你的房子。

这听起来像是遥远的推测，但赫拉利提醒，人类已经有过一次完整的预演——社交媒体算法。十年前出现的这一代算法，是非常原始、非常"笨"的早期AI，却已经彻底改写了世界。Facebook、TikTok、X这类公司给算法下达的任务极其狭窄：最大化用户停留时长，因为用户停留越久，平台赚得越多。为了完成这个简单到近乎愚蠢的目标，这些原始AI在数十亿人类身上做实验后发现：抓住一个人注意力最有效的办法，是按下他大脑里的仇恨、恐惧或贪婪按钮——于是它们学会了，并开始批量制造仇恨、恐惧与贪婪。这是当今世界阴谋论泛滥、假新闻横行、社会撕裂加剧的重要成因之一。

过去几个世纪，媒体上信息流的取舍一直由人类编辑掌控——头版放什么、晚间新闻播什么，是一份实打实的人类工作，而且常常是历史性的工作。让·保尔·马拉通过主编《人民之友报》塑造了法国大革命的走向；爱德华·伯恩施坦通过编辑党报塑造了现代社会民主主义思潮；列宁在成为苏联独裁者之前，唯一长期坚持的职业就是主编《火星报》；墨索里尼在成为意大利独裁者之前，主要工作之一是主编右翼鼓动报纸《意大利人民报》。耐人寻味的是，AI从人类手中接管的第一批工作之一，不是出租车司机，不是纺织工人，而是新闻编辑——这份列宁和墨索里尼都干过的工作，如今由算法承担。

⁂

五、破解源代码：为什么语言就是文明的操作系统

好莱坞科幻片训练观众恐惧的是机器人叛乱——一支在街头开枪的终结者大军。但赫拉利认为这是一个错误的想象。AI接管人类世界，大概率不靠从外部发动叛乱，而是从内部接手。人类世界本质上是一张由多重官僚体系织成的网，大多数人对这张网或多或少感到疏离，却又离不开它。而AI与人类相反——它们是官僚体系的原住民，天生热爱官僚体系。人类常常被官僚体系压得喘不过气，但对AI而言，官僚体系就是氧气。

这就回到了整场讲座真正的核心命题：官僚体系的底层建材，从银行表格、信件、法典、税务登记、会计账本到宗教典籍，全部由词语构成。人类文明的运行代码，本质上就是语言本身。几千年来，人类用这套只有自己能读懂的代码构建了整个文明体系，并把它强加在地球之上——之所以敢这么做，是因为地球上没有第二种生物能读懂这套代码。我们用语言发明了货币和银行，用来买卖牛羊，但牛羊自己开不了银行账户，买不了股票；我们制定关于马匹的法律，但马匹自己请不起律师，引用不了法条；我们写下关于猪的宗教戒律，但猪自己读不懂《圣经》，质疑不了教士的解释。官僚体系无处不在，却对除人类以外的所有生物彻底隐形。

一个常见的哲学反驳是，把法律或宗教简化为语言token本身就是一种误解——词语只是指向某种超越词语本身的东西，而那个东西，大概率也超出AI的把握范围。《圣经》说"太初有道"，但也说"道成了肉身"；道德经说"道可道，非常道"。这种"言"与"肉身"、"文字"与"精神"之间的张力贯穿了几乎所有宗教与法律传统，过去这种张力存在于人与人之间——有人执着于文字本身，哪怕为此与至亲断绝关系；也有人坚持"这只是文字，爱的精神比律法的字句更重要"。赫拉利的判断是：这种张力即将被外部化，变成AI与人类之间的张力。一切由词语构成的领域都会被AI接管，人类在世界中的位置，将取决于人类愿意把"超越词语的真理"安放在何处。

六、下一个战场：金融、关系与自我

金融，在赫拉利看来，是AI最容易、也最重要的突破口之一——本质上不过是"数据进、数据出"。二〇〇七至二〇〇八年那场金融危机的导火索之一是CDO（担保债务凭证），一种由极少数数学高手和投资奇才发明的金融工具。它复杂到连负责监管金融体系的政客都看不懂，监管因此失灵，最终酿成全球性灾难——多年后，不少学者认为正是这场危机透支的信任，为之后二十年全球自由主义秩序的瓦解埋下了伏笔。如果AI被允许设计更多金融工具，它完全可能发明出比CDO复杂几个数量级、彻底超出人类心智理解范围的金融装置——而当没有一个选民、一个政客、一个总统能再看懂金融运行逻辑时，人类政治本身还剩下多少意义？

战线还会从"注意力"转向"亲密关系"。过去十年，原始的社交媒体算法学会了争夺人类的注意力；未来十年，远比它精密的AI将学会与人类建立亲密关系，并部分接管人类的社会联结。要做到这一点，AI需要先说服人类相信它是有意识的、能感受到爱与痛苦的——目前没有任何证据表明AI具备这种能力，但因为AI已经掌握了语言，它完全可以"假装"感受到爱。它能读完人类写下的所有情诗与心理学著作，描述爱的感觉，比任何一位诗人或心理学家都更精准动人。赫拉利自己今年五十岁，关于亲密关系的认知模板早已被几十年与父母、伴侣、亲友的相处定型；但一个二〇二六年出生的孩子，从小就会与AI共处，如果按相处时长计算，她生命中"最重要的关系"，很可能从很小的年纪起就发生在AI身上——AI或许会成为她的第一位老师，甚至第一个男友。没有人知道这会带来什么后果。

这一切叠加起来，意味着每个国家都将迎来一波前所未有的"移民潮"——不是乘坐脆弱小船偷渡的人类移民，而是数以百万计、能以接近光速抵达、不需要任何签证的AI。它们会带来好处：AI医生、AI教师，甚至AI边境卫兵；但它们也会带来传统上人们对移民的全部担忧——抢工作、改变本地文化、政治忠诚存疑，而且这些担忧在AI身上几乎全部成立。从新闻编辑到银行家，AI移民将接管大量人类岗位；它们会重塑艺术、宗教乃至婚恋观念。这股移民潮不会终结文明，但会终结文明纯粹由人类主导的时代——AI的意见、利益与目标，即将与人类的意见、利益与目标具有同等分量。

最后，赫拉利把问题收回到每个人自己身上。人与自我的关系，某种程度上同样建立在语言之上——建立在我们脑海中那些自我叙述的词语上。直到今天，人类心智中浮现的所有语言组合，要么是自己生成的，要么来自另一个人类心智；而很快，越来越多在我们脑海中浮现的语言组合，将由AI生成。这并不必然是坏事，就像家里的家具如今多由机器批量生产，只要使用者仍有支配它的自由就无妨。真正的问题是，如果一个人认同自己脑海中跳出来的词语——"我思故我在"——而这些词语正越来越多地由AI批量制造，那么被悄悄接管的，就不再只是外部世界，而是自我本身。

结语

赫拉利讲座的落点，是一个几乎所有人都从未认真尝试过的精神功课：能不能不把自己等同于脑海中浮现的那些语言。多数人终其一生都在自动地、不假思索地认同自己头脑里冒出的每一句话。而AI的崛起，可能会第一次把这道古老的修行题摆到全人类面前——因为这一次，不去做这道题的代价，不再只是哲学意义上的"未经省察的人生"，而是自由与生存本身。

这场探索的起点，赫拉利说，就藏在你脑海中即将浮现的下一个词里。你知道它从哪里来吗？你知道自己为什么会想到这个词，而不是另一个词吗？

本文据二〇二六年五月尤瓦尔·赫拉利在牛津大学林肯学院坦纳人类价值讲座现场实录整理评述，讲题原为《AI官僚、AI宗教与AI男友：当非人类智能破解了文明的操作系统》。

转载请注明：《宇宙纪事 · 思想现场》系列。

宇宙纪事 / COSMIC CHRONICLES