多智能体系统运行所需的要素

本文信息来源:felicis

每个开发者头顶都悬着一个最大的问题是: 我们未来的 AI 技术栈会是什么样子?

软件操作过去需要数据库和需要人工输入的图形用户界面,但随着工作变得自主化,这种情况正在发生改变。

我们正在进入智能体基础设施的新时代,在这个时代中,基础原语不再是向量数据库或编排器,而是更具人性化的东西:收件箱和标准作业程序(SOP)。

设想一下:每个自主智能体都有一个收件箱,就像我们一样。任务从多个来源流入——漏洞报告、Slack、API、人工请求。智能体进行分类、排序优先级并响应。它不需要每次都被告知该做什么。为什么?因为它有编码为可重用行为的 SOP。这些 SOP 就像智能行动的宏。它们不断演进、版本化并学习。

但这里有一个关键的推动因素:上下文工程。

上下文工程不仅仅是提示工程。它涉及在运行时动态地为 AI 提供正确的信息,比如数据和工具,以理想的结构呈现,从而充分装备模型来执行特定任务。我们不再只是用静态事实填充提示。上下文是动态的、结构化的、个性化的。这不仅仅是智能体知道什么,而是它如何以及何时知道。上下文工程意味着智能体需要执行的任务应该不断地重新排序。 可以将其视为认知的 DevOps。 工具和平台将会出现,帮助团队设计、存储、调用、测试和部署”上下文模块”,就像他们部署代码一样。

“上下文工程是一门精妙的艺术和科学,需要在上下文窗口中填充恰好适合下一步的信息。”

– Andrej Karpathy

这是一个根本性的转变。上下文工程涉及在最终模型调用之前运行额外的步骤,比如从知识库检索、工具选择、任务建模和协议遵循。基础设施将不再专注于管道,而是帮助规划如何完成整体任务。不再是把 LLM 当作神谕,而是把 LLM 当作你友善的运维队友。

上下文工程旨在通过仅向模型提供最相关的上下文来实现平衡。LLMs 的上下文窗口有限,因此选择在该窗口中放入什么内容至关重要。相反,添加过多不相关或结构不良的信息可能会恶化模型的输出质量(这种现象被称为”迷失在中间”或随着提示变得过于庞大而经历”上下文腐化”)。上下文工程是关于最大化提示的有效信息密度。

在我们快速到来的未来中,智能体不会被视为聊天机器人。而且你不会只使用一个。通过上下文工程,智能体将成为编排子智能体队列的流程负责人。它们将有一个任务收件箱需要管理,一套遵循的规程手册,以及对什么重要、为什么重要的持续改进理解。规划智能体将访问收件箱,并为特定的子智能体提供适当的上下文。

 A diagram titled “Multi-Agent Systems.” In the center, an “Inbox” with three purple “TASK” cards points down to an “Orchestrating Agent” box that delegates to two smaller “Subagent 1” and “Subagent 2” boxes and then to a yellow “Output + Action” box. On the left, a “Context Window” column lists “Prompt + Task Modeling,” “Protocol Adherence,” “Tool Schema,” and “SOPs.” On the right, a “Memory” column lists “Files” and “Real-Time Data.” Thin lines connect both side columns to the orchestrating agent. A small Felicis logo sits in the lower-right corner.

需要明确的是,我们距离这种智能体现实还很遥远。采用仍面临重大障碍——数据仍然是智能体能力的主要瓶颈。 计算机使用基准测试仍然很低(OSWorld 上 38.1%,WebArena 上 58.1%,WebVoyager 上 87%)。像 OpenAIAnthropic 这样的前沿实验室预计将大量投资来改进这些。像 BrowserbaseBrowser UseLettan8n 等风险投资支持的初创公司正在推动智能体优先基础设施的边界。 

然而,这个奖励足够巨大——OpenAI 预测到 2030 年,智能体的销售额将超越 ChatGPT。这也是合理的,当一个具备正确上下文工程的智能体能够更务实地运作时,开发者为什么还要花时间将几个提示词串联在一起呢?

我们知道基础要素正在改变。但我们可能没有预料到的是,自动化的未来看起来更像是人类,只是更快、不知疲倦且可编程。

如果你正在为这个由上下文工程驱动的世界构建产品,请让你的智能体联系我的智能体。