原文:The Owning Phase of AI Part 2: When Do The Economics Make Sense
作者:Rob May
来源:SandHill.io #302 推荐阅读 · Additional | RecodeX 编译
AI 时代的拥有 vs 租用
上周我写了 AI 的自有阶段,以及为何它才刚开始。本周我想谈单个公司的经济账,下周再看可能受益的公司。
当上市时间重要或你用的智能量低时,租用智能有用。但这样做在规模上创造毛利率税与战略暴露。当你有足够量时,在规模上拥有智能并把部分费用从 OpEx 移到 CapEx 是巨大好处。
看软件毛利率发生了什么。二十年 SaaS 跑在 80%+ 毛利率,因为多服务一个客户成本是托管中的四舍五入误差。AI 原生应用报告 50–60%,差距几乎全是第三方 API token 支出。每个调用前沿模型的功能付与用量而非席位扩展的通行费。租用时代把智能当公用事业。自有阶段把它当资产负债表资产。
拥有 vs 租用的单位经济
租用的问题是成本曲线不再线性;它是超线性。用一次调用回答一个问题的聊天机器人随用户扩展。规划、调用工具、读结果、重试并重新规划的 Agent 每任务做 30 到 200 次模型调用,每次携带增长的上下文窗口。每单位客户价值的 token 量在上升,每 token 定价按提供商裁量移动。那 token 波动直接坐在你的毛利率线上。
所有权反转结构。你预先支付大额、大多固定成本:蒸馏或训练算力、评估基础设施,以及运行它的人。然后在你自己服务的模型上的边际推理(预留或自有 GPU 上的 vLLM)接近电费与折旧成本。在规模上每 token 成本比 API 标价低一个数量级,更重要的是,变得可预测。
蒸馏使这实用。几乎没人需要 700B 参数通才来分类工单、提取发票字段或路由工作。你用前沿模型当老师在你自己数据上生成标注轨迹,然后训练在你窄分布上匹配或击败老师的 8B–70B 开权学生。学生更便宜、更快,跑在你能买的硬件上。
然后是投资者最应关心的部分:升值资产循环。每次生产交互产生纠正、偏好与边缘案例。若那数据流入你拥有权重的微调,改进归于你。若它流经 API,你在付钱改进别人的模型,每个租同一端点的竞争者得到好处。租用智能使你的差异化贬值;自有智能使其复利。
谁应拥有其智能?四种原型
所有权不适合所有人。我见过最常见错误是没有规模、没有独特数据的公司建模型,因为它听起来战略。三种原型应拥有;一种应租。
- 战略护城河建设者。 核心资产是专有、非公开数据的公司:临床记录、承保历史、法律工作产品、工业遥测。微调权重编码无法抓取的信息,蒸馏循环把数据优势变成模型优势。对他们问题是是否想让护城河活在供应商的上下文窗口里。
- 运营冠军。 在重复、定义良好工作负载上有海量 token 量的公司:银行文档处理、电信支持、大型工程组织内代码生成。5000 万美元推理账单上 20% 效率收益是 1000 万美元毛利,可数倍资助严肃 ML 团队。
- 利基领域专家。 国防、受监管医疗、主权云,或任何有气隙或数据驻留要求者。这些公司往往根本不能用前沿 API,所以所有权不是毛利决策而是部署唯一路径。
- API 租用者。 其余所有人,目前。仍在找产品市场契合的初创不应在知道产品是什么前花一分在模型基础设施上。建在公共数据上的通用工作流工具没有护城河可复利。低量内部用例永远跨不过回本期阈值。租,但仪表化一切,以便你知道数学翻转的那一刻。
决策框架:价值密度矩阵
两个变量做大部分工作。
数据独特指数(DUI): 模型性能多少取决于只有你有的数据?低意味着公共知识已能完成工作。高意味着你的数据就是任务。
Token 规模阈值(TST): 年化推理支出是否大到固定算力与人才投资能在 18–24 个月内回本?对多数公司那坐在每年 200 万到 500 万美元之间,取决于 GPU 定价。
| 低 Token 规模 | 高 Token 规模 | |
|---|---|---|
| 低数据独特性 | 租 API。优化 prompt,积极缓存,继续前进。 | 自托管开权。在自有 GPU 上服务现成 8B–70B 模型;不碰训练就捕获毛利。 |
| 高数据独特性 | RAG + API。数据留在检索,租推理,观察量 tipping point。 | 完全模型所有权。 蒸馏、微调,跑升值资产循环。护城河在此建成。 |
总拥有成本诚实检查: 直接算力是较小一半。较大一半是人与过程:能跑蒸馏管道的 ML 工程师、保持 vLLM 集群高利用率的 MLOps,以及尤其严格评估 harness——因为你拥有的模型质量漂移时没有供应商可怪。预算了 GPU 却没预算评估,你在这里失败。
那么 CEO 该做什么?
对初创:租到数据另有说法,但设计产品使每次交互成为你以后可用的训练样本。对企业高管:按工作负载而非汇总审计 API 支出;两三个循环大概占大部分,那些是你的所有权候选。对 VC:毛利率轨迹现在取决于公司能否从租用毕业到拥有,那属于尽职调查。
务实答案是混合。对长尾边缘案例以及任何推理广度胜过专业化的地方租前沿 API。对定义你产品与毛利的高量核心循环,拥有蒸馏的、专业化子模型。把这拆分做对的公司将再次看起来像软件生意。做不对的将看起来像转售商。
本文由 RecodeX 编译自 The Owning Phase of AI Part 2: When Do The Economics Make Sense(作者:Rob May),首发于 SandHill.io #302 推荐阅读。译文仅供学习交流,观点不代表本站立场,版权归原作者所有。
