掌控数据循环
真正的 AI 护城河并非模型或框架,而是建立在这些基础之上的数据循环系统。
几周前我们就指出,依赖前沿模型的时代正在走向终结——在开源及开放权重模型快速发展的推动下,人工智能的价值正从原始模型转向围绕它的各类应用体系。但我们希望进一步阐述:真正的竞争优势并非模型本身,也不仅仅是那些应用体系,而是建立在两者之上的数据资产。
这种矛盾已经在外界显现出来。今年夏天在 CNBC 的节目中,Palantir 的首席执行官亚历克斯·卡普也表达了同样的观点:企业们对那些前沿实验室“很不满意”,厌倦了为那些无法创造“任何价值”的代币付费,同时越来越担心这些实验室会夺走他们的“核心优势”——也就是让企业得以立足的独有竞争力。“情况已经彻底失控了,”他在最近一次的 Squawk Box 节目中说道。虽然卡普作为企业老板显然有推广自己方案的商业动机,但他所描述的这种不安情绪确实是存在的,而且并非只有他的客户才有这种感受。
theCUBE 研究机构一直在关注这一矛盾现象,并为其赋予了名称:“数据共产主义”——所有人都从为数不多的几家供应商那里租用相同的智能服务,因而实际上并不拥有任何属于自己的一切。他们提出的对策则是“数据资本主义”,在这种模式下,专属优势将仅由企业自身掌握。
我们完全认同数据资本主义(或数据飞轮)才是正确的路径,而且我们的理解更为深入。企业客户固然应当保护自身的运营数据免受供应商的侵害,但那些以人工智能为核心业务的公司则可以通过采纳数据资本主义理念从一开始就建立起竞争优势。具体该如何做呢?并非要避免使用前沿模型,而是将这些模型视为公司完全掌控的数据循环体系中的“租赁引擎”——这样的系统会随着每一次交互而不断增值,且无论本季度哪种模型更胜一筹,它依然能够持续发挥作用。
正是开源技术使得这种模式如今得以实现。

前沿模型用于探索。
如今我们常听到的讨论往往被简化为非此即彼的格局:要么使用昂贵的前沿模型,要么选择廉价的开源模型。我们认为最佳方案是两者兼用——在确实有必要使用前沿模型的情况下再加以应用,通常是在探索技术极限、判断某种功能是否可行,或是处理最复杂的任务(如高难度的编程工作)时。
Cursor 就是一个非常典型的例子。他们借助 Claude 这类擅长复杂推理与智能编码的前沿模型来打造出色的产品市场契合度,而他们用于大规模自动补全功能的那款 Tab 则运行在他们自行训练的融合模型上——因为自动补全功能需要每天在几毫秒时间内处理数千次请求,在这项特定任务上,经过微调的模型显然比通用模型更高效。前沿模型帮助他们实现了产品市场契合度,但正是定制化的模型才使得他们能够以合理的成本结构和低延迟来实现业务的规模化发展。
前沿模型是最快捷的方式,能帮助你快速判断是否真的拥有客户所需的产品或服务。这类模型的性能极为出色,而且无需自己操心微调、维护或安全保障等问题——这些都有其他人负责。此外,它们的创新速度也非常快,因此在初期你可以专注于解决客户的问题,而无需一直关注支撑这些问题的模型本身。这确实是首先应该做出的选择。不过,以目前的成本来看,这种方式难以实现规模化发展,也无法让你更接近拥有自己的数据循环体系。
经过微调的模型在大规模应用中更具优势
一旦企业突破了产品市场契合点并开始实现规模扩张,基于开源技术开发的较小型微调模型便能在延迟、成本和数据利用效率方面占据优势;而且,并非所有采用智能代理技术的公司都必须依靠最先进的模型才能正常运转。
在响应速度方面,针对特定任务进行微调并在自身基础设施上运行的模型,通常比那些从零开始推理出相同答案的通用模型更快、更准确。在智能代理系统中,一个用户操作就可能触发数十次模型调用,每多 100 毫秒都会带来显著影响——2 秒与 92 毫秒的响应时间差距,就决定了该助手是显得生动高效还是笨拙低效。Decagon 的 p95 延迟低于 400 毫秒,而且由于针对语音交互和支持场景对较小模型进行了微调,其每轮处理成本仅为封闭式模型的大约六分之一。正如 NVIDIA 所说,让智能代理的每一步操作都通过庞大的模型来处理,简直是“架构上的严重失误”——你实际上是在为通过一个既懂莎士比亚作品又懂 Python 语言的模型来传输 2KB 大小的消息而付费。
成本机制遵循相同的逻辑,但一旦拥有相应模型,其增长方式则有所不同。经过微调的模型成本基本固定,随着处理请求量的增加而逐步降低,而非像 Claude Opus 那样无论任务重复多少次都要按每个标记收取费用。在 Distil Labs 测试的八款模型中,经过微调的小型模型每百万次请求的成本仅为 3 美元,远低于 Claude Opus 的 6,241 美元,同时仍能跻身前三名。Sully.ai 通过将临床工作流程迁移至经过微调的开放源代码模型,将推理成本降低了 90%。
问题在于,要依靠开源技术并自行对模型进行微调,需要深厚的专业经验,而且成本也不低。自己开发模型意味着要负责确保所使用的专属数据在存储和训练过程中的安全与合规性。这涉及的范畴远比调用 API 要广泛得多,目前还很少有人能够熟练地完成这些模型的微调、部署与维护工作。这也是我们目前正在关注的重大挑战。
归根结底,数据飞轮才是真正的护城河。
这就是其形成闭环的机制:由于经过针对特定数据集的微调,小型模型在处理相关任务时能优于那些大型前沿模型。在实际应用中运行这些模型会产生更多数据——包括修正信息、边缘案例以及推理过程记录——而这些数据又会用于下一轮的微调。成本效益提升了规模,规模又带来了更多数据,数据让模型更加精准,更精准的模型则进一步强化了企业的竞争优势。这就是所谓的“飞轮效应”,也就是数据资本主义的运作方式。
开源技术能够让企业从头到尾掌控整个数据处理流程。虽然也可以对封闭式的模型进行微调——OpenAI 和 Anthropic 都提供此类服务——但用户依然是在租赁计算资源,费用按 Token 数量计算,同时还得受制于他们的定价策略及服务中断机制。而开放权重则能让企业将整个流程都控制在自己手中:包括模型的微调、服务提供、成本控制以及部署工作。这正是改进现有租赁方案与真正拥有资产之间的区别所在。