智能时代的权力与超越

工业革命改变了这两者。在工业革命之前，获取权力最有效的方式是率军作战并征服土地。正如亚当·斯密在国富论中所记述的，工业革命之后，a) 资本主义增强了资产阶级的权力，他们与小贵族结盟以削弱国王的权力，b) 围占公地转为土地私有，提升了农业生产力并释放了工业劳动力，c) 工业经济创造了新的消费品阶层，导致财富从想要这些商品的贵族转移到生产这些商品的资本家。随着国王越来越依赖资本家来为战争和殖民扩张提供资金，权力进一步从贵族转向资本家。

工业革命引发了一波世俗化浪潮。到19世纪末，弗洛伊德注意到宗教已失去其治疗功效。无论是因为科学还是其他原因，信徒越来越难以不去质疑上帝，这剥夺了他们用以生活的稳定行为规范。弗洛伊德认为这种无力的宗教观会导致神经症，他发明了精神分析以帮助减轻由此产生的痛苦。虽然世俗化的兴起有多重原因，但最直接的催化因素是经济：人类学会了将能量转化为劳动力，这重塑了日常生活、权威与信仰。

如今，一场同样强大的革命正在进行：我们已经发现了如何将能量转化为智能。围绕这场转变将如何展开、终将如何重塑社会，存在着大量辩论。讨论常集中于输赢动态，例如：1）哪些公司将成为赢家；2）哪些人群将受益或受损（例如就业流失）；3）社会将如何补偿这种经济结构的剧烈变化（例如全民基本收入）。在主流讨论之外，一小部分更加极端的人，尤其是在硅谷，担心人类灭绝及其他此类存在性风险。

我想知道，在即将到来的智能时代，实际发生的变化是否在某种意义上会更接近我们在工业革命期间看到的演变：即一种新的物质主义控制体系（封建制度 → 资本主义 → ?）和一种新的超越体系（宗教 → 心理治疗/疗法 → ?）。这在某种程度上既比硅谷流行的某些末日论温和，也比一些抽象的通用人工智能辩论更微妙，后者如此迅速地汇聚到全面消费主义扩张和一个人人无需工作的富足世界上。

封建制度 → 资本主义 → ?

战后时期资本主义大幅扩张。如果我们不是亲身经历这一历史性转变，鉴于20世纪初对资本主义的激烈批评，我想这会让人有些惊讶。我认为资本主义的扩张可以与全球化的上升联系起来——许多曾经的劳动者，那些工业批评所针对的人，最终成为资本主义经济的一部分，作为知识工作者或服务型经济中的从业者，在那里刚性劳动力供给减少推动了工资上升。正如许多观察者所指出的，很少有美国人仍在制造业工作。

如果知识型劳动真会变得过时，或至少贬值，那么这些劳动力将流向何处？一些观察者，比如最近的 Citrini 研究，推测这些劳动会转向服务经济，但在我看来这并不合逻辑。就业减少应当导致对服务的需求下降，从而也会使服务业萎缩。因此，许多人工智能界的权威把财富再分配视为后 AGI 经济的必要组成部分。然而，再分配本质上是国家资本主义的工具。若果我们不是走这条路，而是迎来一种全新的物质主义追求，会怎样？

做一个极端的思想实验：若在人类历史的大部分时期里，能征召士兵的能力就是权力的定义，而在我们的工业时代里，能动用资本的能力就是权力的定义，那么在即将到来的智能时代，能动用人工智能的能力难道不应成为终极权力吗？是否有可能我们会发展出某种新的文化追求，某种新的机制来决定谁控制这种人工智能？在那一体系中，会不会出现一种新的、非货币化的价值定义？

宗教 → 心理治疗 → ?

在我们每个人内心，都存在着在物质追求与超越追求之间找到的一种平衡。在人类大部分历史时期，人们对自身未来物质福祉几乎没有多少影响力：社会角色相对固定，可选择性低，维持生计是主要目标。因此，宗教文化蓬勃发展，留下了令人惊叹的遗迹以示纪念：教堂、金字塔以及伟大的文学和艺术作品。

随着近几个世纪经济上行释放出活力，宗教性下降也就不足为奇。物质追求相较于精神追求取得了优势。剩下的那点旧有活力使得超越追求演变为一种更与物质主义相容的新形式——这就是“治疗式”崛起。禁令不再告诉我们什么能做、什么不能做；取而代之的是对真实自我实现的追求——一个需要我们每个人自行定义的目标。

我认为这种新的精神理解让很多人受挫。事实证明，要从零开始弄清楚如何自我满足，真的很难。这个新的超越之旅太没有边界了。我们中有多少人认识这对他们真正起作用的人？又有多少人我们认识，他们在这条道路上高尚地坚持着，但并没有看到成果？

旧金山的理性主义者和有效利他主义社区是试图构建新型超越意识形态的例子。我并不认为这些就是最终归宿，但它们是未来趋势的先驱。它们具有禁限性，例如——对什么被允许、什么被禁止有明确规则。Philip Reiff 将疗法文化描述为一种消释性的、过渡性的文化阶段。所有消释性意识形态最终都会让位于新的禁限性意识形态，因为人类在有结构的环境中更能茁壮成长。新的人工智能时代——伴随其经济和社会动荡——是否会带来一种新的禁限性体制来规范人类行为？

在极端情况下，人类会崇拜人工智能吗？那样的崇拜会是什么样子？每当我试图想象超越性的未来时，总觉得力不从心，就像生活在 17 世纪的人大概永远无法想象治疗用的沙发会取代教堂的长椅一样。那些想象人人嗑药、整日沉溺于感官享乐的科幻作品 ， 例如 The Culture， 从根本上误解了人类的动机以及我们对一种超越自我内在性的结构的需求。

结论

我最喜欢的作家之一，Alasdair Nairn 指出，人工智能革命可能同时具备：a) 极端的大幅度影响，b) 可能在数十年甚至数百年间逐步发生，c) 技术进步和投资热情中会出现多个高潮与低谷。正如 Nairn 所指出的，蒸汽机并不是工业革命的终点，而是引发了随后众多创新。同样，现代 LLMs 很可能成为催生未来奇迹创新的诱因。

如果这种模式确实成立，那么人工智能以更微妙方式影响我们文化的途径——也就是它如何永久改变对权力（物质主义）的追求与对意义（超越）的追求——很可能才处于最初的萌芽阶段。在未来几十年里，这些追求将像所有文化现象一样在我们心中扭曲并演变。

所有革命性的变革都始于观念的对话。我们正处在一个观念的黄金时代，互联网成为充满引人入胜讨论的温床。我在想，谁将成为我们这个时代的下一个亚当·斯密或卡尔·马克思？谁将成为摩西或弗洛伊德？我们寻找的不仅仅是一种新意识形态，而是通往新应许之地的先知。