每个帝国的核心都有一套意识形态，一套推动体系前进并为扩张正名的信仰体系——即使这种扩张的代价直接违背了该意识形态宣称的使命。
对欧洲殖民列强而言，这套体系是基督教及其在掠夺资源的同时拯救灵魂的承诺。而对当今的人工智能帝国来说，则是以”造福全人类”为名的人工通用智能。OpenAI 正是其主要布道者，以重塑人工智能建设方式的热忱席卷整个行业。
“我采访过一些人，他们因对 AGI 的狂热信仰而声音颤抖，”《 人工智能帝国 》作者、畅销书作家凯伦·郝在 TechCrunch 节目 Equity 的最新一期中这样说道。
在她的书中，郝将整个人工智能行业（尤其是 OpenAI）比作一个帝国。
“要真正理解 OpenAI 行为的规模和范围……实际上必须认识到，他们已变得比世界上几乎所有民族国家都更强大，不仅巩固了惊人的经济权力，还掌握了巨大的政治影响力，”Hao 表示。“他们正在重塑地球生态。重构我们的地缘政治格局，改变所有人的生活。你只能将其描述为一个帝国。”
OpenAI 将 AGI 定义为“一种高度自主的系统，在大多数具有经济价值的工作上超越人类”，声称这种系统将“通过增加物质丰裕度、加速经济增长、助力发现改变可能性边界的新科学知识来提升人类文明”。
这些模糊的承诺助推了行业的指数级扩张——催生出庞大的资源需求、海量抓取的数据、不堪重负的能源网络，以及将未经充分测试的系统推向市场的急迫性。而这一切都服务于一个许多专家认为可能永远无法实现的未来图景。
郝 Karen 表示这条发展路径并非必然，扩大规模并非实现人工智能进步的唯一途径。
“你还可以开发新的算法技术，”她说，”通过改进现有算法来减少它们需要使用的数据和计算量。”
但采用这种策略就意味着要牺牲发展速度。
“当你把构建有益通用人工智能的追求定义为胜者通吃——这正是 OpenAI 的做法——那么最重要的就是速度压倒一切，”郝说道。“速度高于效率，速度高于安全，速度高于探索性研究。”
她表示，对 OpenAI 而言，确保速度的最佳方式就是采用现有技术，“只做智力含量低的事——向这些现有技术注入更多数据、更多超级计算机。”
OpenAI 设定了游戏规则，其他科技公司为了不落后，决定跟随效仿。
“由于 AI 行业已成功吸纳全球大多数顶尖 AI 研究人员，而这些学者已不再活跃于学术界，整个学科领域正被这些企业的议程所塑造，而非真正的科学探索。”郝景芳说道。
投入已经并将继续达到天文数字。上周，OpenAI 表示预计到 2029 年将消耗 1150 亿美元现金 。Meta 在 7 月宣称今年将投入高达 720 亿美元建设 AI 基础设施。谷歌预计 2025 年资本支出将攀升至 850 亿美元 ，其中大部分将用于扩展 AI 和云基础设施。
与此同时，目标不断变化，最崇高的”造福人类”愿景尚未实现，而危害却在加剧。这些危害包括失业、财富集中，以及助长妄想和精神错乱的 AI 聊天机器人 。郝景芳在书中还记录了肯尼亚、委内瑞拉等发展中国家劳动者的情况——他们接触过包括儿童性虐待材料在内的令人不安内容，在内容审核和数据标注等岗位上仅获得极低报酬（约每小时 1 至 2 美元）。
郝表示，将人工智能的进步与当前危害对立起来是一种错误的权衡，尤其是在其他形式的人工智能确实能带来益处的情况下。
她以谷歌 DeepMind 获得诺贝尔奖的 AlphaFold 为例，该模型通过氨基酸序列数据和复杂蛋白质折叠结构进行训练，如今能根据氨基酸准确预测蛋白质的三维结构——这对药物研发和疾病认知具有深远意义。
“这些才是我们真正需要的人工智能系统，”郝说道。”AlphaFold 不会引发人们的心理健康危机，也不会造成巨大的环境危害…因为它的训练基础设施需求要小得多。它不会产生内容审核方面的危害，因为[数据集不包含]你在抓取互联网时吸进去的所有有毒垃圾。”
伴随着对通用人工智能（AGI）近乎宗教般的狂热，还流传着一种叙事，强调在人工智能竞赛中击败中国的重要性，以便硅谷能对世界产生自由化的影响。
“事实恰恰相反，”Hao 表示，”中美之间的差距在不断缩小，而硅谷对世界产生了反自由化的影响……可以说，唯一毫发无损的参与者就是硅谷本身。”
当然，许多人会辩称，OpenAI 和其他人工智能公司通过发布 ChatGPT 等大型语言模型造福了人类——这些模型通过自动化编程、写作、研究、客户支持等知识型工作，有望大幅提升生产力。
但 OpenAI 的组织结构——部分非营利、部分营利——使其在定义和衡量对人类影响时变得复杂。而本周有关 OpenAI 与微软达成协议的消息，使其更接近最终上市的目标，这进一步增加了复杂性。
两位前 OpenAI 安全研究人员向 TechCrunch 透露，他们担心这家 AI 实验室已开始混淆其营利与非营利的使命——由于人们喜欢使用 ChatGPT 和其他基于 LLMs 的产品，这就算完成了”造福人类”的复选框。
Karen Hao 回应了这些担忧，描述了过度沉迷于使命而忽视现实的风险。
“即便有越来越多的证据表明他们构建的东西正在伤害大量人群，这个使命仍在掩盖所有问题，”Hao 表示，”当你深陷自己构建的信仰体系以至于与现实脱节时，其中蕴含着某种极其危险而阴暗的东西。”