AI 基础设施的第二幕：环境、评估、体验

AI 基础设施正处于几十年来最具活力的变革之中，其特点是既有创造性破坏 ，也有关于未来走向的激烈争论 。大约一年前，我和贝塞默的团队发布了我们的 AI 基础设施路线图 ，以帮助理解这种快速演进。我们见证了整个生态系统的非凡创新，AI 基础设施内的各个类别已经吸引了数十亿美元的风险投资 。这个领域已经出现了 IPO 和轰动性的并购 ，这表明一些初创公司在技术栈的某些部分扩张得有多快。然而，尽管取得了这些令人惊叹的进展，我相信我们仍然只处于 AI 基础设施的第一幕，而更重要的第二幕还在前面。

OpenAI 的姚舜宇对我们如何到达这一时刻提供了深刻的见解。在他的文章” 下半场 “中，他解释了 AI 进步的第一阶段——以反向传播、卷积网络和 Transformer 等突破为特征——主要专注于算法和方法的进步。今天的 AI 基础设施格局反映了这种时代精神，基础模型、计算和数据标注等领域的基础设施巨头崛起。

但前方的道路可能更加深刻。正如舜宇所阐述的：

那么接下来会是什么？AI 的下半场——从现在开始——将把重点从解决问题转向定义问题。在这个新时代，评估变得比训练更重要。我们不再只是问”我们能否训练一个模型来解决 X？”，而是在问”我们应该训练 AI 做什么，以及如何衡量真正的进展？”

我已经观察到，最先进 AI 研究的议程正在从改进抽象算法转向使 AI 能够有效且有目的地与现实世界交互 。这使强化学习重新成为焦点。与此同时，正如沃尔玛最近的公告所展示的，企业正在将 AI 的使用从概念验证成熟到面向客户的生产部署。随着这些推动力加速发展，当我们进入” 体验时代 “（上图）时，AI 基础设施的第二幕正在展开，基础设施创新专门构建来将 AI 置于操作环境中以实现现实世界的效用。以下是我看到正在形成的一些关键前沿：

• 环境： 如果第一幕是关于人工生成的数据集和标注，第二幕则更进一步采用交互式技术来支持现实世界的学习。这里的例子包括高保真任务策划和可扩展的强化学习环境/训练场生成。
• 评估： 第二幕需要对评估进行根本性的重新思考 ，因为现实世界的参数与排行榜上的基准攀升非常不同。我已经看到围绕 LLM 作为评判者 、连续方法和新颖设置/专有框架的新创新出现。
• 系统： 第二幕以系统设计而非模型作为基本单元。基础设施正在发展以支持生产级复合 AI 系统和跨功能”体验”组件的代理工作流，这些组件包括内存（特别是长期任务）、知识检索、推理和推理优化。

AI 进步的第一个阶段（以及相应的主导 AI 基础设施范式）很大程度上呼应了 Sutton 的” 痛苦教训 “，该教训指出，AI 领域最持久的进步并非来自人为构建的知识或特定领域的启发式方法，而是来自对计算能力和通用学习算法的利用。虽然这一教训提醒我们，在如何可扩展地将上下文、理解和专业知识嵌入 AI 系统的探索中，仍有许多”未知的未知”，但我对第二幕中 AI 基础设施”真正”工作开始时将出现的突破感到兴奋。