上下文是让系统不可替代的关键
本文信息来源:anneliesgamble
对话 Glean 创始工程师 Chaitanya Asawa
上下文不仅仅是一个组织拥有的文档,它还涵盖了这些文档与组织成员之间互动的一切。谁做决策?谁负责审批流程?如何处理异常情况?谁是直接责任人(DRI)?Foundation 最近发表了一篇精彩的文章 ,将其定义为一个组织的“上下文图谱”。我们也看到开发者生态系统中出现了大量努力,因为团队正在努力解决在构建大型、快速迭代的代码库代理时,如何保留上下文的问题。

弥补上下文鸿沟是构建企业级 AI 产品的关键环节。这是产品学习定制化工作流的方式,并最终以此赢得代理执行动作所需的信任。
Glean 是从第一天起就将上下文置于首位的最佳公司案例之一,这也有助于解释它为何能成为当今企业级 AI 领域的领导者之一。Chaitanya (Chai) Asawa 是我的挚友,也是 Glean 的创始工程师之一。在经历了 6 年多的历程后,他最近离职并加入 Abridge,负责临床决策支持的工程领导工作。但在他离开之前,我们见了一面,聊了聊他在 Glean 的时光、他在公司建设过程中的所学,以及为什么上下文在他们的故事中如此重要。
从企业搜索到工作助手
2021 年,当我第一次问 Chai 为什么会押注一家一无所有的微型初创公司时,我记得他告诉我,在我们的个人生活中,获取信息感觉是毫不费力的。你几乎可以向 Google 询问任何事情并立即得到答案。但在工作中,情况并非如此。信息碎片化地分布在电子邮件、文档、Slack、CRM、内部工具以及没人相信其时效性的维基百科中。Glean 的使命就是解决这个问题,而 Chai 深信这一使命。快进到今天,在很大程度上,他们已经实现了这一使命。
“Glean 认为搜索是有史以来最强大的技术之一,而职场搜索却已经失效了,”Chai 说道。在早期,Glean 看起来像是一个经典的搜索产品。用户可以输入查询并获得相关的链接。
在构建这款早期搜索产品的过程中,Glean 整合了一个组织的所有数据。它连接了公司内部几乎所有的系统,并构建了一张信息在组织中流动的动态地图。
随着 AI 的成熟和 2022 年 ChatGPT 时刻的到来,这一基础被证明是至关重要的。Glean 现在拥有了通过构建企业搜索所积累的全部上下文,并可以开始向更像工作助手的方向迈进。它能直接回答问题,以公司数据为依据,并支持工作流中的执行。
上下文胜过模型能力
由于 Glean 并不构建自己的基础模型,其优势并不在于拥有更好的模型,而在于它对组织行为有着更深刻的理解。它不仅拥有内容,还拥有围绕这些内容的所有上下文。“最难的部分不仅仅是匹配关键词。用户输入的查询只有两三个词,信息量很少,”Chai 告诉我,“关键在于理解所有的信号,从而洞察该组织内部问题背后的意图 。”
在大型组织中,同样的请求根据角色、地点、团队等因素可能意味着不同的事情。“正确”的答案可能因地点而异,例如旧金山办公室的政策与纽约办公室的政策就有所不同。同一行业的两家公司可能会以完全不同的方式运行“相同”的工作流。
“我们了解关于公司的一切:人员、谁与谁协作、最近的活动。而这些上下文改变了正确答案的定义。”Chai 说道。
由于 Glean 连接了企业内部几乎所有的系统,它为每位顾客构建了深厚的组织背景。它不仅拥有关于决策结果的数据,还记录了这些决策制定过程的历史。
这些信号形成了持续的反馈循环,使产品能够自动改进,并随着时间的推移为每个组织提供更具针对性的定制化服务。这些循环还允许系统在特定公司的特定时刻,适应特定的角色。久而久之,这变得让其他公司越来越难以复制。
横向与纵向的博弈
Glean 是一家横向公司,这意味着其产品与行业无关、与角色无关。它向生物技术、金融科技、制造业、科技等行业销售相同的核心产品,其用户遍布这些行业的几乎所有部门。相比之下,纵向公司则深耕于特定行业或特定人群,并围绕这些工作流进行紧密构建。
横向型公司通常难以在深度上有所建树。要覆盖每一个工作流和边缘情况并非易事。相比之下,纵向型公司往往在特定行业钻研极深,但这本质上缩小了市场规模和买家群体。这种关于广度与深度的权衡,对于决定如何获取和编码上下文至关重要。
正如 Chai 所言:“小公司可能会接受‘足够好’,但大型企业不会。这就是横向平台需要进行有选择性、有意识的纵向投资的地方。”
这些投资旨在学习那些垂直领域的独特工作流,以及需要集成哪些系统。然后,在可能的情况下,尝试将这些学习成果推演到其他垂直领域。“许多部门的工作流都共享相同的底层原语——审批、权限、审计、升级,”Chai 告诉我,“在一个领域深入构建这些功能,可以提升其他领域的产品表现。”
同样的原则也适用于用户画像。Glean 经常围绕单一角色来锚定新功能。如果一个功能真正令某个角色感到惊艳,它通常也具有普适性。
“横向广度与纵向深度的博弈,归根结底在于你如何获取最丰富的上下文以交付世界级的成果,以及这些成果是否具有普适性,”Chai 解释道。
组织的上下文
Glean 已巩固了其市场领导者的地位,因为它已成为连接各项工作系统的组织。它拥有每个顾客的组织上下文,且这种优势随着时间的推移而愈发强大。
企业的护城河正在向上下文转移。模型在很大程度上已经足够出色,但限制企业级 AI 智能体的仍是它们承载组织记忆,并在不同角色、工作流和时间维度上保持行动连贯性的能力。
Chai 在我们对话接近尾声时总结得最好:“在企业级 AI 中,上下文是让系统不仅好用,而且不可替代的关键。”