人工智能的长尾

模型提供商和以人工智能为核心的公司备受关注，但许多非人工智能公司也会以各种方式整合人工智能。以下是非人工智能公司在考虑其人工智能整合策略时的思路。

• 自 2022 年 11 月 ChatGPT 发布以来，人工智能初创公司获得了过高比例的投资者资本和关注，2024 年第二季度有 49%的风险投资流向了人工智能与机器学习初创公司。
• 尽管所有目光都集中在像 OpenAI 这样的模型提供商以及像 Perplexity 和 Jasper 这样的 AI 原生公司上，但将受到人工智能影响的“非 AI”公司的数量远多于那些以 AI 为中心的公司。
• 我们将人工智能对这些其他公司的影响统称为“AI 的长尾”。根据公司选择整合 AI 的方式，这个长尾可以分为四类：构建独立模型、利用现有模型（如 OpenAI 的 GPT-4）、在开源模型之上构建（如 Meta 的 Llama），以及使用预构建的 AI 工具（如 ChatGPT）。
• 构建一个独立的、专有的模型是利用人工智能最耗资源的方式。通常只有那些拥有大量新颖数据源、能够从中提取独特见解并具备从零开始训练新模型所需的人力和资金的公司才会采取这种方式。
• 封闭源模型，例如 OpenAI 的 GPT 系列或 Anthropic 的 Claude，这些模型经过数十亿、甚至可能达数万亿参数的训练，能够在从编程到客户服务等多个领域生成准确且详尽的输出，并且可以通过 API 轻松访问。
• 开源模型，如 Mistral 或 Meta 的 Llama，同样是强大的工具，其中 Llama 3.1 经过了 4050 亿参数的训练。然而，与封闭源的 LLMs 不同，开源模型为企业提供了更高的透明度和灵活性，因为可以调整模型权重以满足特定客户需求。
• 第三方 AI 工具，如 ChatGPT，是最易于整合的解决方案，客户可以直接付费使用已开发完善的工具，而无需投入资源在内部构建或调整模型。
• 尽管各公司的 AI 战略各不相同，但迄今为止表现出成功的公司通常是将 AI 用于补充其核心业务、复制同行的成功经验，并在人工智能持续发展过程中保持灵活应变。

正态分布无处不在，从智商、标准化考试成绩到整个人群的血压水平。大多数人很容易理解服从正态分布的现象，因为它们直观且易于把握。“平均”结果是最常见的，越远离平均点，概率在两个方向上同等下降。身高是另一个经典的正态分布例子。

然而，世界的大部分并非由正态分布决定，而是由不那么直观的幂律决定——少数异常值主导了大多数结果。尤其是金融领域，极端的幂律更为显著。在公开股市中，仅有七只股票 ，约占标普 500 的 1.4%，就贡献了 2023 年指数增幅的一半以上。在金融市场的另一端，风险投资是一个靠爆款驱动的行业，正因为少数异常项目带来了基金回报的绝大部分。

2008 年，Union Square Ventures 创始人 Fred Wilson 指出，“每一家真正优秀的风险投资基金……至少有一笔或多笔投资回报巨大，以至于一笔交易就足以单独返还整个基金。”Wilson 的观点在 2016 年被时任 a16z 合伙人 Benedict Evans 重申，他指出在风险投资中，“6% 的交易产生了至少 10 倍的回报，而这些回报占据了风险投资总回报的 60%。”

Evans 还指出，产生 10 倍或更高回报的交易占据了表现最佳基金回报的 90%。

由于风险投资是一个由热门项目驱动的行业，资金往往集中在投资者认为能带来超额回报的领域。这在风险投资中造成了一种“炒作幂律”。例如，1999 年，当互联网泡沫高涨时，39%的风险投资流向了“互联网”公司。到 2024 年，具有同等炒作热度的领域是人工智能。自从 OpenAI 在 2022 年 11 月发布 ChatGPT 以来，对人工智能公司的资金投入激增。例如：

• YCombinator 2024 年夏季批次中有 75%的初创公司（208 家中 156 家）在开发与人工智能相关的产品。

• 在2024年第二季度，49%的风险投资流向了人工智能与机器学习初创公司，而2022年第二季度这一比例为29%。

• 在 2020 年，早期人工智能、SaaS 和金融科技公司的中位投前估值分别为 2500 万美元、2700 万美元和 2800 万美元。到 2024 年，这些数字分别为 7000 万美元、4600 万美元和 5000 万美元。

• OpenAI 在 2024 年 10 月以 1,570 亿美元的估值（隐含 39 倍营收倍数）成功筹集新资本，当时该公司仍处于亏损状态，且年收入预期为 40 亿美元。

正如我们在之前关于 AI 原生初创公司的深度解析中所写，2020 年代早期的很多关注点都集中在生成式 AI 上。LLMs 的出现使得 AI 日益可能成为公司产品的核心。

然而，尽管这些 AI 原生初创公司吸引了过多的投资者关注，但它们并不能完整地反映 AI 领域的全貌。因为大多数公司并非 AI 公司，至少在其核心业务上并非如此。对于绝大多数企业来说，人工智能并非其业务的核心部分，但这些公司仍会受到 AI 技术发展的影响。在此前报道过 AI 原生公司的基础上，本报告旨在探讨受 AI 影响的长尾公司。

如果你回想起互联网泡沫时期，一些在互联网繁荣中获益最大的公司反而是那些适应了电子商务等趋势的非互联网企业。例如，成立于 1962 年的 Walmart 在 2023 年的电子商务收入达到 $730 亿 ，较 2017 年增长了五倍 。Walmart 以及其他因全球互联网接入爆发而受益的非互联网公司，属于我们称之为“互联网长尾”的一类企业。

今天，出现了一个新的“长尾”： 人工智能的长尾 ，它包括来自各行各业的非人工智能公司——金融科技、SaaS、工业、医疗、电子商务、酒店、国防科技、媒体、时尚、物流与交通等——这些公司都将受到人工智能的影响。在本次深度探讨中，我们审视这一人工智能的长尾。从使用现成的人工智能工具到将人工智能整合到内部工作流程中，整个经济中各类公司都在使用或尝试使用人工智能。正如互联网对非互联网公司的深远影响一样，人工智能的影响也不会仅限于构建人工智能模型或产品的公司。

人工智能公司——那些在人工智能“炒作”和投资者关注中占据主要地位的公司——可以分为两类：

1. 模型公司 ，如 OpenAI、Anthropic 和 Mistral，它们开发了自己的专有或开源大型语言模型（LLMs）并向用户提供这些模型。
2. 以人工智能为核心的公司 ，例如以对话式搜索引擎 Perplexity 和以产品与服务围绕 AI 模型构建的营销解决方案平台 Jasper。

对于第一类公司，模型就是产品。但对于第二类公司，产品的运作依赖于 AI 模型。ML 模型部署平台 Baseten 的首席执行官兼联合创始人 Tuhin Srivastava 表示，一种理解 AI 原生公司定义的方式是：“把模型拿走，公司就不存在了。”
然而，大多数公司——从 Bloomberg、Walmart 到 Canva——并不属于这两类中的任何一类；它们属于更广泛的“其他一切”范畴。我们所说的“AI 的长尾”，正是指“其他一切”与人工智能的交集。

这一长尾现象的出现引发了许多问题，例如：

• 人工智能的进步将如何影响那些商业模式早于 ChatGPT 问世的公司？
• 从咨询公司的分析师到科技公司的软件工程师，不同行业的员工今天如何使用人工智能？他们将来会如何使用人工智能？
• 公司如何在人工智能市场中定位自己？它们是在从零开始搭建自己的模型，还是在使用外部开发的工具？这些公司应当如何定位自己？

对这些问题的答案与各家公司本身一样多样化。一些公司，例如费用管理平台 Ramp*和澳大利亚 SaaS 巨头 Atlassian，已在其现有数据和工作流程之上叠加生成式人工智能。

其他公司，如 Klarna，正在投资人工智能以提升自身内部运营效率。今年二月，这家瑞典金融科技公司声称其人工智能聊天机器人完成了 700 名全职客服员工的工作；并在 2024 年九月宣布计划用内部人工智能工具替代 SaaS 平台 Workday 和 Salesforce。

大企业和小企业同样在使用人工智能工具来提高员工生产力。2024 年 5 月，普华永道签署了一项协议，为美国和英国超过 10 万名员工提供访问 ChatGPT Enterprise 高级功能的权限。与此同时，参加 2024 年美国商会调查的小企业中有 98% 报告使用了由人工智能驱动的工具，美国商会技术参与中心高级副总裁乔丹·克伦肖表示 ，“人工智能使小企业——很多时候没有竞争对手那样的人员或资源——能够发挥超出自身规模的影响力。”

得益于 20 多年的后见之明，我们现在可以回顾 90 年代和 2000 年代初的互联网繁荣，并准确识别出其中的赢家、输家以及催生市场格局的趋势，例如云存储、电子商务和社交媒体。然而，AI 并不具备同样的后见之明。尽管 AI 已广泛普及，普华永道在其 2023 年新兴技术调查中指出，54%的公司已实施生成式 AI 解决方案，但正在实施 AI 解决方案的公司仍在摸索这些用例可能的样貌，这对咨询公司大有裨益。埃森哲在 2024 年第三季度实现了年化 36 亿美元的 AI 订单收入，波士顿咨询公司预测其 2024 年有 20%的收入和 2026 年有 40%的收入将来自 AI 整合项目。

由于人工智能发展迅速，企业仍在寻找立足点，今天的数据很可能明天就过时。因此，本报告的目的既不是为任何公司标榜胜负，也不是评判某家公司的人工智能策略。我们的目标是提供一个框架，用以分类和理解人工智能长尾中存在的各类用例，帮助读者更有效地思考自己企业中的人工智能用例可能呈现的样貌。

通过本次深入解析，我们希望帮助在非人工智能原生公司工作的读者更好地理解不同公司如何实施人工智能解决方案，为他们提供工具，帮助判断如何在自己的公司中整合人工智能。

我们将 AI 的长尾划分为四个“层级”，按成本和资源需求自高到低对 AI 用例进行分组：

1. 构建了自有内部 AI 模型的公司
2. 利用闭源模型的公司，例如 OpenAI 或 Anthropic
3. 利用开源模型的公司，例如 Llama、Mistral 或在 Hugging Face 上可用的模型
4. 已将预构建 AI 工具纳入工作流程的公司。

这些层是动态的，而非静态的，如果公司在多种方式上使用生成式 AI，则可能被归类到两个或更多层中。鉴于各公司人工智能的不断变化状态，我们认为理解公司如何使用 AI 的最简单方法是研究各种公司将 AI 纳入其业务的具体用例。

对于长尾人工智能中的公司而言，最耗资源的 AI 策略是从零开始构建独立模型。最适合采用此策略的公司是（1）资本充足且（2）拥有有价值且独特的专有数据集的公司。

构建定制模型的公司需要拥有充足的资源。定制模型的训练成本很高——据 Sam Altman 称，GPT-4 的训练费用约为 $100 million——并且需要高度熟练的人才和庞大的数据集。对于计划将生成式 AI 用于多个企业普遍存在的任务的公司来说，可能有更便宜的替代方案。

然而，对于拥有雄厚资本和大量专有数据集的公司来说，专有模型（A）能够生成比通用的、公开可用模型更详尽、更具公司特异性的输出；（B）让公司对模型及其权重保持完全控制；并且（C）相比最大的闭源模型，在推理计算上可能带来成本节约。

Bloomberg

Bloomberg 是一家总部位于纽约市的金融数据与媒体公司，其年收入超过 $120 亿 ，使其在 2023 年按收入计成为美国第 33 大的私营公司。其旗舰金融市场信息产品 Bloomberg Terminal 约贡献了该收入的 三分之二 。Bloomberg 的业务较小组成部分包括一家通讯社和为法律、税务及政府场景提供软件的 Bloomberg Industry Group。Bloomberg 已利用其数据集构建了自己的大型语言模型和人工智能工具。

在彭博社超过 8 千名工程师中，350 多人属于 AI 工程团队。彭博的 AI 团队自 2017 年以来每年都发表大量 AI 研究论文 ，显示出彭博在 ChatGPT 发布之前就长期致力于投资于 AI。

2023 年 3 月，Bloomberg 宣布推出面向金融的 LLM——BloombergGPT。该 5 亿参数模型从零开始训练 ，训练数据结合了 3450 亿公共 token 数据集与由 Bloomberg 收集的 40 年金融语言文档组成的 3630 亿 token 数据集。对训练 BloombergGPT 所需计算成本的估算从超过 $270 万到超过 $1000 万不等。

尽管投入如此之大，截至 2024 年 11 月，彭博社尚未明确说明其任何功能是否由 BloombergGPT 驱动——这可能表明该产品主要面向外部使用。

在其 2023 年 4 月的“AI 50 榜单”中，红杉资本提到彭博社（Bloomberg）是拥有“大量且独特数据存储”的公司典型，认为这类公司在自行训练模型方面会形成护城河。然而，仔细审视 BloombergGPT 的研究论文可见，只有一小部分（0.70%）的训练数据来自彭博社本身，其余数据来自网络、新闻媒体、报道和公司申报文件等其他来源。

此外，尽管 Bloomberg 的模型是专门以金融数据进行训练的，皇后大学与摩根大通人工智能研究部门在 2023 年 10 月发表的一篇论文发现，ChatGPT 在许多金融任务上表现优于 BloombergGPT。这可能是因为 Bloomberg 的训练数据并不像一些报道所说的那样专有。

2024 年 1 月，彭博在彭博终端推出了 AI 生成的公司财报会议记录摘要 ，此前该功能在 2023 年第四季度进行了测试。彭博尚未公开披露支持该功能的具体模型，但鉴于公司在构建 BloombergGPT 上投入的大量资源，以及彭博情报分析师曾协助训练该 LLM 以掌握金融语言的细微差别，这很可能是一个内部模型。
彭博还在 Bloomberg Tax、Bloomberg Law 和 Bloomberg Government 中引入了生成式 AI 工具，增强了这些产品的摘要和搜索功能。与 BloombergGPT 类似，这些产品似乎使用了在彭博数据上训练的定制 LLMs，彭博政府部门指出：

Replit

Replit* 是一个基于浏览器的集成开发环境（IDE），专注于协作 、 新手程序员和构建最小可行产品（MVP）。Replit 提供一系列由 AI 驱动的功能来帮助程序员，包括代码自动补全、聊天功能和自动调试。Replit 的 AI 功能由自研模型、经微调的开源模型以及来自 Anthropic 和 OpenAI 的闭源模型共同驱动。

该公司正采用一种灵活的 AI 策略，根据所需的输出质量、速度和成本等特性为特定用例选择合适的“层级”AI。尽管 Replit 在 2023 年 3 月宣布与 Google Cloud 建立合作，但该公司的当前 AI 功能并未由 Google 的模型提供支持。

Replit 在 2023 年 4 月和 2023 年 10 月发布的代码补全模型最初由内部开发，随后公司已在 Hugging Face 上共享这些模型。对于自动调试功能，公司对一个开源模型进行了微调 ，并在 2024 年 4 月发布。对于其他功能，如代码生成和聊天 ，公司为免费用户提供“Basic” AI 模型，并为付费用户提供访问表现最好的闭源模型的权限。

2024 年 9 月，Replit 还推出了一个基于“专有”70 亿参数模型的自主结对编程工具。底层模型实际上可能在调用更强大的闭源模型，因为文档中包含代理请求用户 OpenAI API 密钥的截屏。一些早期用户对该产品早期的功能表示沮丧 ，但他们也对其未来发展表示乐观 。

Canva

Canva 是一家澳大利亚的基于网页的设计平台，2024 年 10 月估值达到了 $490 亿 。在 2023 年 10 月，Canva 推出了其生成式 AI 设计工作室 Magic Studio。Canva 指出 ，Magic Studio 建立在“专有模型”之上，而该公司拥有一份有趣的训练数据集：由其平台用户创作的内容 。尽管 Canva 的 Magic Studio 是用专有模型训练的，该设计平台也提供利用现有封闭源模型的工具。

虽然 Canva 已表示不会在未经创作者许可的情况下使用其数据，但选择加入的用户会通过 Canva 的创作者补偿计划获得报酬 ，以允许其内容被用于训练 Canva 的专有 AI 模型。Canva 的 Magic Studio 可以将文本提示转化为图像、视频和演示设计，用户还可以对静态图像进行调整，例如改变图像内部分内容的大小或位置。

2024 年 7 月，Canva 宣布收购了图像生成平台 Leonardo.Ai——该平台在一个月前刚刚推出了自己的基础型 AI 模型。Canva 收购 Leonardo 的目的是将 Leonardo 的 Phoenix 基础模型整合到其现有的 Magic Studio 产品中，尽管 Leonardo 也将继续独立运营。

Walmart

自从谷歌的 BERT 模型在 2018 年发布以来，Walmart 一直在构建面向客户的对话式 AI 工具。2023 年 4 月，该公司被 报道称在多种用例中使用包括 GPT-4 在内的闭源模型，但到 2024 年 1 月 ，公司已开始在 GPT-4 之外使用经过微调的开源模型。
Walmart 继续逐步远离闭源模型，到 2024 年 6 月，这家零售商已将所有生成式 AI 功能过渡到定制的内部模型。2024 年 10 月，Walmart 宣布了一组其称为 Wallaby 的零售专用 LLMs。公司 表示 ：

沃尔玛通过 Wallaby 的目标是“为每位购物者创建独特的主页，使在线购物体验如同走进为每位顾客量身打造的实体店一般个性化。”这可能的表现形式是顾客输入类似“你能帮我策划一场看美式足球的观赛派对吗？”或“我为新生儿需要准备哪些用品？”这样的查询，然后系统呈现所需物品清单，而不是让顾客逐一搜索所有相关商品。

在内部，沃尔玛正在利用 AI 构建客户支持聊天机器人和助手，帮助员工查找商品在店内的可用性和位置等信息，公司也使用 AI 来修订并清理其庞大的商品目录。LLMs 涉及超过 8.5 亿 条数据来完成该目录工作，沃尔玛 CEO Doug McMillon 表示，如果没有 AI，“要在相同时间内完成这项工作，几乎需要当前员工规模的 100 倍。”

沃尔玛还在将生成式人工智能引入店内的增强现实购物体验以及在 Roblox 等平台上的线上虚拟购物体验。尽管沃尔玛在定制模型上有投资，但在第三方模型对特定用例来说是最佳选择时，沃尔玛仍然保持开放态度。

除了从头构建自己的模型外，公司还可以通过 API 访问像 OpenAI 和 Anthropic 这样的闭源 AI 模型，并在这些模型之上构建自己的解决方案。

像 OpenAI 的 GPT 和 Anthropic 的 Claude 这样的大型封闭模型能够在多个领域生成准确的输出，使它们适用于转录、客户服务、数据提取以及其他不需要极端、特定领域专业知识的一般任务。它们产生的是任何 AI 模型中可获得的最高质量输出 。

从工程角度来看，封闭源模型也是最容易被采用的切入点，因为它们通常输出质量较高，且通过 API 相对容易接入。为了与像 Llama 3 8b 这样提供更便宜、更快推理的小型开源模型竞争，封闭源模型提供商也在发布更小的模型，例如 GPT-4o mini。虽然 GPT-4 有 1 万亿个参数，GPT-4o mini 的规模与 Llama 3 8b 等竞争的小型模型相似 。

Zapier

成立于 2011，Zapier 是一家总部位于旧金山的工作流自动化初创公司，截至 2023 年 8 月估值为 $5 billion。该公司提供超过 7K 款应用的集成，G-Suite 产品、Slack、Notion 和 Mailchimp 是其最受欢迎的集成之一。用户还可以在多个应用之间构建无代码的自动化工作流。Zapier 的使命是“让自动化为每个人服务”，公司将 AI 融入到用户的自动化工具包中，通过加入 LLMs 来支持这一目标。

Zapier 的工作流可以包含调用 AI 模型的步骤，Zapier 本身实际上也在内部流程中使用支持 AI 的工作流。例如，在 2023 年 9 月的一次采访中，Zapier 的 AI 主管谈到了 Zapier 如何在内部使用 AI。他提到，AI 在从大量非结构化数据中进行总结和提取结构化信息方面表现出色。为降低幻觉风险，他建议把重点放在那些自然需要人类参与的用例上。

以下是基于 OpenAI 模型构建的 Zapier 内部 AI 驱动工作流的一些示例：

• 自动会议转录与摘要 ：当包含录音的文件被上传到某个 Dropbox 文件夹时，Zapier 使用 OpenAI 对录音进行转录 ，将转录文本上传到 Dropbox，使用 OpenAI 对转录文本进行摘要，并在 Slack 中发送消息。这个完全自动化的工作流程帮助 Zapier 的客户成功团队成员及时了解客户通话情况。
• 文章摘要：Zapier 的内容团队成员在他们的研究流程中使用 Zapier 工作流 来总结网络文章。触发该“Zap”后，Zapier 的 Chrome 扩展会解析指定网页的文本并向 OpenAI 发送提示以对数据进行摘要。
• 自然语言工作流创建：Zapier 的 Copilot 工具也能帮助用户根据自然语言提示构建工作流。例如，用户可以输入：“当我在 Webflow 收到新潜在客户时，在 Hubspot 中创建联系人并向销售团队发送 Slack 消息，”Copilot 就会生成一个用于执行该任务的工作流。鉴于 Zapier 的其他 AI 功能由 OpenAI 提供支持，Copilot 很可能也是如此。

除了其工作流产品外，Zapier 还允许用户创建简单的 AI 聊天机器人，这些机器人是围绕 OpenAI 模型的轻量级封装。用户还可以安排将聊天机器人与知识源同步，以保持信息的最新。这些聊天机器人可以嵌入网页，并且能够运行 Zapier 工作流并收集用户信息。Zapier 本身也使用内部聊天机器人来生成新闻稿、撰写博客文章、为同事提供反馈，并将公司行话翻译为通俗易懂的语言。

Klarna

Klarna 是一家估值为 67 亿美元的瑞典金融科技公司，提供先买后付服务。2024 年 9 月，该公司引发关注，其联合创始人兼首席执行官 Sebastian Siemiatkowski 解释说，公司已将 Salesforce 和 Workday 从其技术栈中移除，用 AI 取而代之，此前该公司在 2024 年 2 月凭借基于 OpenAI 的客户服务助手取得了成功 。

表面上看，Klarna 并无任何独特之处能预示其会在内部大量投入 AI。任何一家公司都可能赌上一把，选择快速采用 LLM。Klarna 这次试验的结果很可能为其他企业提供借鉴，帮助他们认识到通过 AI 获得运营效率提升的潜力。

2024 年初，Klarna 推出了一款由 OpenAI 驱动的 AI 助手，能够处理“退款、退货、支付相关问题、取消、争议及发票错误”等各类客户服务问题。该 AI 助手在上线后的第一个月处理了 230 万次对话，占 Klarna 客户服务聊天量的三分之二，相当于 700 名全职员工的工作量。Klarna 还称，其 AI 助手将重复咨询减少了 25%，解决时长从 11 分钟缩短至 2 分钟。Klarna 认为这一新产品将在 2024 年为其净利润贡献 4000 万美元。

科技分析师 Gergely Orosz 在 2024 年 2 月测试了 Klarna 的 AI 助手，并描述其为“构建良好”，但他也指出，对于该工具处理的低级别支持，可能并不需要使用 LLMs 来实现自动化。2024 年 9 月 ，Klarna 通过将该 AI 助手用于驱动基于聊天的购物体验，扩展了其功能，帮助消费者搜索并研究他们考虑购买的产品。

在内部，Klarna 于 2023 年 6 月推出了一款名为 Kiki 的 AI 助手，该助手同样由 OpenAI 提供支持。截至 2024 年 5 月，85% 的员工每天使用该助手，且其每日应答超过 2K 次查询。

Ramp

成立于 2019 年 ，Ramp 是一家估值 77 亿美元的 B2B 金融科技初创公司，提供广泛的金融软件产品，包括费用管理、差旅管理、账单支付和采购等工具。这些产品存储了财务信息，例如企业卡交易数据，Ramp 已经在其上叠加了生成式人工智能。公司还在内部运营的多个领域整合了生成式人工智能。

Ramp 不只是试验 AI；它对 AI 大举投资。公司设有一个专门的应用 AI 团队 ，该团队由 Cohere 的前首席执行官领导——Cohere 是一家 AI 驱动的客户支持平台，已于 2023 年 6 月被 Ramp 收购 。此外，Ramp 还通过在 2024 年 1 月收购 AI 驱动的采购平台 Venue，扩展了其采购能力。

在 2024 年 8 月的一次采访中，Ramp 的首席技术官 Karim Atiyeh 指出，公司在“许多方面花了一些时间进行微调”，并且“很快发现我们的时间更有价值，我们应该等待其他一代模型”。他补充说，GPT-4o mini 模型能满足 Ramp 大约 90%的需求。

Ramp 在人工智能应用上的一个显著例子是利用 GPT-4 对开源模型（如 Meta 的 Llama 2）进行微调，从而打造出更具成本效益和准确性的定制模型。截至 2023 年 11 月 ，Ramp 报告称使用 GPT-4 处理了数千份混乱的收据样本来微调一款开源模型，最终得到的模型比 GPT 更便宜、更有效。

截至 2023 年 7 月，Ramp 利用 GPT-4 和 Claude 对合同文件进行分析。这些模型提取并结构化合同数据，自动通知客户有关终止期限等重要日期。此外，Ramp 还简化了财务交易的分类和收据备注的说明 ，使用 GPT-4 根据上下文对交易进行分类并建议备注。

Ramp 还在开发一个由 GPT-4o 驱动的界面导航功能，通过文本提示引导用户在其网站上完成任务，例如更改企业信用卡品牌。截至 2024 年 8 月，该功能仍处于内部测试阶段，效果为 60% 至 90%，Ramp 的首席执行官认为这一水平对公开发布来说过低。

尽管界面导航仍处于测试阶段，Ramp 已经提供了由 GPT 驱动的自然语言辅助助手来回答查询并执行基本操作。例如，用户可能会询问：“显示所有超过 100 美元的加油消费”或“我如何降低成本？”

Ramp 的一些内部 AI 工具也在各团队之间共享。例如，Ramp 使用一种语言模型来生成每周内部播客，将客户通话总结为三到五分钟，而且公司还构建了一个 AI 代理，团队成员可以查询该代理以获取客户通话的文字记录。该代理已与 Slack 集成，能够访问 Ramp 大量的通话记录库，以支持员工查询。

Atlassian

Atlassian 是一家市值 500 亿美元 、总部位于澳大利亚的企业级 SaaS 公司，提供用于团队协作的软件产品，如 Jira 和 Trello（产品管理）、Confluence（公司维基）、Loom（视频录制与分享）、Jira Service Management（客户服务）以及 BitBucket（代码托管）。该公司使用包括开源自托管模型和闭源模型在内的多种模型。

Atlassian 首次推出其生成式 AI 功能 Atlassian Intelligence 于 2023 年 4 月 。Atlassian Intelligence 建立在 OpenAI 的模型与 Atlassian 自有模型的结合之上，经过测试阶段后，于 2023 年 12 月向公众开放。Atlassian 的 AI 功能包括 Jira 和 Confluence 中的自然语言搜索、执行打开拉取请求等基本操作的能力，以及摘要功能。值得注意的是，Atlassian 的 Jira 搜索功能由一个微调过的 OpenAI 模型提供支持，其工作原理是在底层将用户的查询翻译为 Jira 查询语言（JQL）。

在 2024 年 5 月 ，Atlassian 发布了其新的 AI 助手 Rovo，并在 2024 年 10 月全面推出。Rovo 构建于 Atlassian Intelligence 之上，其两项主要改进包括跨 Atlassian 和第三方应用的深度搜索功能，以及可无代码使用的“Agents”，这些 Agents 可以用于 “生成和审阅营销内容……汇总来自各方的反馈，或简化诸如清理 Jira 积压任务和整理 Confluence 页面等流程。”所有向用户提供模型信息的 Atlassian AI 功能似乎均基于 OpenAI 的模型。

Atlassian 还在 2023 年 10 月以近 10 亿美元收购了视频录制工具 Loom。Loom 通过让用户轻松捕捉并分享屏幕录制，促进了基于视频的协作。收购时，Loom 已经在引入 AI 来辅助生成转录、摘要和编辑。然而，截至 2024 年 11 月，Loom 现在将视频转录文本提供给 OpenAI，以生成视频的摘要和标题。Loom 未说明其用于转录的具体模型。

最后，2024 年 8 月，Atlassian 收购了 Rewatch，这是一款使用 AI 记录并总结视频会议的产品，旨在增强 Loom 的功能。Rewatch 被收购后，Loom 的产品负责人表达了一个愿景：将会议中相关信息自动存入客户的知识库。

Canva

正如前文所述，Canva 的 Magic Studio 是建立在专有模型之上，但 Canva 也为特定工具利用闭源模型。例如，用户可以使用 Canva 中由 OpenAI 支持的写作编辑器 ，该编辑器在生成文案时能够匹配上传写作样本的语气。

截至 2024 年 11 月，Canva 还有一个第三方应用市场 ，其中包含超过 100 个由 AI 驱动的应用。简单的应用包括 OpenAI 的 DALL-E 应用和 Google 的 Imagen 应用 ，但市场上也有特定工具，例如用于生成 T 恤设计的 T-shirt Designer、用于根据文本提示创作音乐的 MelodyMuse，以及用于为图像生成说明的 OpenRep。各应用使用的 AI 模型因应用而异，许多应用并未披露其模型，因此该市场很可能同时提供闭源、开源与定制模型。

除了从零构建自有模型或使用如 OpenAI 的 GPT-4o 这样的闭源模型外，一些公司选择在开源模型之上构建自己的工具，比如 Mistral、Meta 的 Llama、Hugging Face 库中的模型等。

像这样的开源解决方案很受欢迎，Databricks 在一份 2024 年报告中指出，76% 使用 LLMs 的公司现在选择了开源。为什么？因为开源模型提供了更强的定制化和透明度、更高的数据隐私性，以及更低成本的潜力。

从零开始构建一个新模型既耗时又昂贵，通常没有必要，除非某家公司需要其模型几乎完全基于专有数据。此外，使用像 OpenAI 的 GPT-4o 这样的闭源模型的成本可能迅速上升。Llama、Mistral 及其他开源模型提供了包含数十亿参数的大规模数据集，涵盖从外语到编程的广泛主题，这些开源模型随后可以进一步微调以满足特定公司的需求。

简单来说，对于大多数公司而言，调整一个几乎可以确定包含相关数据的现有开源模型，比从头构建一个新模型更具成本效益。此外，开源模型不受类似 GPT 这类闭源模型的许可费和 API 费用约束，这使得有能力自行托管模型的公司能够以更低成本实现自托管。

对于企业客户来说，能够降低版权侵权、许可纠纷和数据泄露风险的隐私控制，对于拥有敏感数据的企业尤为重要，而开源模型在这些风险上提供了更高的透明度和更大的控制权。

VMware

VMware 是一家虚拟化软件提供商，已于 2023 年被 Broadcom 以 690 亿美元收购。VMware 有两款旗舰产品，Cloud Foundation 和 vSphere Foundation。前者提供私有云解决方案（即计算资源在内部管理，而非在像 Amazon Web Services 或 Microsoft Azure 这样的公有云提供商上），后者提升了企业 IT 基础设施的运营效率。

这两款产品的共同点是都强调安全性，公司指出其私有云解决方案比公有云服务商具有更高的安全性 ，其 vSphere Foundation 优先 “保护数据机密性、维护数据完整性并确保数据可用性”。到 2023 年 11 月，秉持其以安全为先的理念，VMware 发现了一个机会，基于开源模型打造更安全的生成式 AI 代码助手 。

VMware 了解到，编码助理是最广泛被采用的生成式 AI 工具之一，并指出 85% 的开发者在使用 GitHub 的 Copilot 工具时对其代码质量更有信心。然而，Copilot 由 Microsoft 和 OpenAI 开发的 AI 模型提供支持 ， 处理用户的个人数据，并且保留所有客户的用户互动、反馈、提示和建议数据，包括拥有 Business 和 Enterprise 计划的客户。

VMware 指出了阻止企业客户使用第三方闭源代码助理的四个关键风险因素：

1. 隐私 ：企业对使用封闭源模型的主要担忧集中在保护专有代码和数据上。企业不愿将其知识产权暴露给公有云服务，因此需要更安全的方式。
2. 版权侵权 ：对于这些助手生成的代码是否受版权保护存在不确定性。代码可能来自私有专有网站（例如 Stack Overflow、GitHub 等），这引发了对潜在版权侵权的担忧。
3. 法律与许可协议 ：企业通常与合作伙伴和第三方签订复杂的法律与许可协议。这些协议可能规定软件（例如设备驱动程序）仅可在特定领域使用，其中不包括训练和编码助手。
4. 成本考量 ：为支持企业中大量工程师而维持 24/7 云服务的费用成为一项可观的财政负担，使得本地部署解决方案更具吸引力。

VMware 的解决方案是与 Hugging Face 合作，提供一个名为 SafeCoder 的本地部署解决方案，该方案基于开源代码库 LLM StarCoder 构建。StarCoder 是一个 155 亿 参数的 LLM，训练涵盖了 80 种编程语言。其训练数据从开源项目中精心筛选，排除了可能引发商业问题的数据，最大限度降低了版权侵权的风险。

客户还可以使用专有代码对 StarCoder 进行微调，使其获得特定领域的知识。VMware 使用其自身项目的源代码对 StarCoder 模型进行了微调，使其获得领域知识以帮助内部工作。

Mathpresso

Mathpresso 是一家韩国教育科技公司，2023 年从韩国电信巨头 KT 获得了 800 万美元的投资，使其总融资约达 1.3 亿美元 。这家教育科技公司以其由人工智能驱动的教育应用程序 QANDA 而闻名，QANDA 为学生上传的截图形式的数学题目提供解答。QANDA 每月搜索量约为 1.3 亿次，月活跃用户约为 800 万 。

在 2023 年 11 月 ，Mathpresso 着手推出一款以数学为主的 LLM，旨在超越现有的专有模型，并与其投资方 KT 以及韩国 AI 初创公司 Upstage 合作，构建最终成为其 MathGPT 工具的系统。Mathpresso 的主要数据集是其从 QANDA 累积的数学解答集合 ，公司通过将这一专有数据集与 Meta 的 Llama 2 开源模型相结合来训练 MathGPT。

鉴于 Mathpresso 拥有庞大且深度的专有数学解题数据集，从定制化角度出发，公司选择利用开源模型是合理的。联合创始人 Jake Yongjae Lee 曾表示：“像 ChatGPT 这样的商业 LLMs 缺乏应对复杂教育场景所需的定制能力。”Lee 还指出，学生的学习受课程、学区、考试趋势和教学风格等高度本地化因素影响，而 Llama 的开源模型为构建在不同学习环境中都能保持准确性的灵活工具提供了更大的灵活性。

2024 年 1 月，MathGPT 在 MATH（高中数学）和 GSM8K（小学数学）等数学基准测试中超过了此前的纪录保持者微软的 Tora，成为 130 亿参数以下模型中的第一名。

截至 2024 年 11 月，Mathpresso 正在计划继续提升 MathGPT 的准确性和性能，最终将其整合到公司现有的解决方案中，如 QANDA 应用。

Brave

Brave 是一款以隐私为先的网页浏览器，可在所有网站上阻止追踪器、Cookies、指纹识别和第三方广告，并为付费用户提供防火墙和 VPN 订阅服务。2023 年 8 月，Brave 发布 了其浏览器原生 AI 助手 Leo，用户可在不离开页面的情况下对网页进行摘要、生成新内容、翻译、分析文本等。

为了坚持其隐私优先政策，Brave 在开源模型上构建了其浏览器 AI 助手，以最大限度保护用户隐私。值得注意的是，Brave 最初将 Leo 在 Meta 的开源 Llama 2 模型上训练，随后在 2024 年 1 月将 Mistral 的开源 Mixtral 8x7B 设为 Leo 用户的默认 LLM。当客户端使用 Brave 托管的模型 （Llama 3 和 Mixtral）时，其 IP 地址通过反向代理被 掩蔽 ， 对话不会被存储，且对话数据在聊天结束后会被立即 丢弃 。换句话说，不会存储任何用户数据。

虽然 Brave 自 2023 年起也支持 Anthropic，允许客户在希望利用 Claude 的高级推理和编码能力时切换模型，但公司已将默认模型设为自托管和开源，以强调隐私和数据安全。对于选择使用 Claude 而非 Brave 托管模型的客户，他们的查询仍不会被用于训练 Anthropic 的 AI 模型，但 Anthropic 会将这些对话保留 30 天。

Replit

此前提到过 Replit 的定制代码补全模型，该公司还在 2024 年 4 月对 Hugging Face 的一个开源 70 亿参数模型进行了微调，推出了其 Code Repair AI 代理，能够自动修复用户代码中的错误。付费客户可选择在 Replit 的微调模型与其他闭源模型之间切换，这表明企业可以同时提供开源、闭源和定制模型的组合，以满足不同客户需求。

这将我们带到最后一层：购买并使用其他公司开发的成熟生成式 AI 工具的企业。此前的示例中，有些公司自己构建 AI 工具，有些甚至构建完整的 AI 模型，而最后这一层几乎不进行内部开发。企业只是识别并利用第三方创建的工具。

外部工具显而易见的好处是成本：购买特定工具比投入训练或微调模型便宜。然而，进一步拆解决定，会发现企业选择外部工具有三个具体原因：

首先，如果一家公司员工需要一款通用知识检索工具和/或头脑风暴伙伴。正如波士顿咨询公司（BCG）在 2024 年 9 月的一项研究所示，使用生成式人工智能工具能提高员工生产力，尤其是在他们可能缺乏完成工作所需的技术专长的情形下。除非需要公司或领域特定的知识，否则像 ChatGPT 这样的工具对许多知识型员工来说已绰绰有余。

其次，如果一家公司能从通用型商业工具中获益，例如聊天辅助客户服务，但投资回报率不足以支撑自行构建内部模型。举例来说，并非每家公司都具备像沃尔玛用 Wallaby 那样从零开始构建自家聊天机器人和专有模型的资源或意愿。然而，第三方工具，比如 Zendesk 的 Answer Bot，仍然可以通过处理简单的服务请求带来立竿见影的好处。

其三，当公司有一个利基、具体的需求，而第三方已经开发出一个行业特定的工具，企业可以以低于自行开发的成本向其购买。例如，正如我们将在下面的 Kira 案例中讨论的那样，由于不同律所之间的法律合同使用相似的条款和语言，Kira 可以针对法律文件进行训练，从而为许多不同律所就贷款条款和并购交易提供高度准确的结果。

波士顿咨询公司

波士顿咨询公司（BCG）是全球最大的咨询公司之一，2023 年拥有 32,000 名员工 ，营收为 123 亿美元 。向客户提供 AI 整合建议正迅速成为 BCG 最有利可图的业务之一，CEO Christoph Schweizer 指出，公司预计 AI 整合项目将为其 2024 年营收贡献 20%。然而，BCG 也一直在大力投资于培训其自身员工如何使用生成式 AI。根据一份讨论公司 2023 年业绩的新闻稿 ，“BCG 大力投资培训公司顾问在内部利用 AI/生成式 AI，包括用于知识管理和内容创建的一系列专有工具。”BCG 发现特别有用的一个工具是 OpenAI 的 ChatGPT。

2023 年 9 月，BCG 发布了一项内部实验结果，该实验对全球约 758 名 BCG 顾问进行了研究，以测试利用 ChatGPT 解决不同“创意产品创新”和“商业问题解决”任务的影响。研究中，顾问们使用了基于 OpenAI 的 GPT-4 开发的平台，以实现类似 ChatGPT 的功能，结果令人瞩目：在商业问题解决方面使用该平台的顾问表现比对照组差了 23%（据 BCG 称，这可能是因为当要求 LLMs 在权衡细微的定性和定量数据以回答复杂问题时，错误空间更大），而 90% 的参与者在创意任务上的表现有所提升，平均表现提升了 40%。

您可以在此处阅读全文研究 here，但为便于理解，以下是顾问们需要解决的一些创造性问题示例：

1. 您在一家鞋类公司新产品开发部门工作。为一个被忽视的特定市场或运动设计一款新鞋子。发挥创造力，至少给出十个想法。
2. 列出推出该产品所需的步骤。言简意赅但要全面。
3. 运用您最好的知识按用户细分鞋类市场。为每个目标细分市场设计营销标语。
4. 建议三种方法来测试你的营销口号是否对已识别的目标客户有效。
5. 为该产品撰写一篇新闻稿的营销文案。

一年之后，BCG 进行了另一次实验 ，研究在工作中使用生成式人工智能的影响。首个实验研究的是人工智能对员工可以独立完成的任务的影响，而第二个实验则评估了在没有人工智能时员工无法独立完成的项目中使用人工智能的影响。

480 波士顿咨询公司的顾问参与了第二项研究，他们被随机分配到两个组：一个是可使用 ChatGPT 的生成式 AI 增强组，另一个是只能使用像 Stack Overflow 这样的传统资源的对照组。这些顾问需要完成三项任务：

1. 编写 Python 代码以合并并清理两个数据集。
2. 使用分析学最佳实践（例如机器学习）构建用于体育投资的预测模型。
3. 验证并校正由 ChatGPT 生成的统计分析输出，并应用统计指标以判断所报告的结果是否具有意义。

本研究结果显示，使用 ChatGPT 可显著提升表现。与以定期编写代码并从事分析工作的数据科学家小组平均得分为基准相比，在编程测试中不会编程的顾问的表现从 37% 跳升至 86%。在预测分析和统计理解相关的测试中也出现了较小但方向一致的提升。

波士顿咨询公司（BCG）全球人力主管 Alicia Pittman 指出，2023 年 10 月，在首项研究结果公布后，该咨询公司向全体员工推出了 ChatGPT Enterprise，显示出该咨询公司认为该工具对其员工极具价值。

Dollar Shave Club

Dollar Shave Club 是一家直面消费者的剃须用品供应商，曾在 2016 年被联合利华以 10 亿美元收购，后于 2023 年被私募股权公司 Nexus Capital Management 出售。

Dollar Shave Club 并未在专有数据上从零构建自己的内部聊天机器人，而是选择使用客户支持 SaaS 平台 Zendesk 开发的工具：Answer Bot。2024 年 3 月，Zendesk 发布了其 Answer Bot，这是一款可以用公司知识库内容回复客户问题的聊天机器人。

Answer Bot 在 1200 万 次客户互动上接受训练，使其能够在几 秒钟 内回复简单的客户支持问题。虽然 Answer Bot 是第三方工具，但它被设计用于通过利用客户知识库中的支持文档和常见问题，回答客户的特定支持问题。

Dollar Shave Club 的参与运营总监 Trent Hoerman 指出 ，Zendesk 的 Answer Bot 在处理客户可以自行解决的服务工单（例如暂停或取消账户）时最为有效，并且它使公司在不增加人手的情况下扩展了支持时间。

虽然 Answer Bot 无法处理诸如欺诈或剃须受伤等需要升级的工单，但它自动化处理简单任务的能力使客户服务代表能够专注于更复杂的投诉。截至 2024 年 3 月，Zendesk 的 Answer Bot 每月为 Dollar Shave Club 解决 4500 件工单，成功转移了该公司总工单量的 10%。

律师事务所

法律领域以冗长、晦涩的合同著称，充斥着复杂的行话和条款。由于法律合同在词汇、术语和条款上具有一致性，基于法律文档训练的生成式人工智能工具有机会通过帮助识别重要数据点和可疑措辞来加速合同审查流程。

然而，律师事务所缺乏在内部开发这些工具所需的工程资源。例如，虽然彭博将其 8000 名工程师中的 350 名投入到其人工智能模型的构建中，但截至 2023 年 11 月，美国按收入排名第六的律师事务所斯卡登（Skadden）总员工仅为 3500 人。

鉴于需要加快合同审查，Skadden、Hogen Lovells、Osler、Chapman and Cutler 以及 Paul, Weiss 等律所已转向 AI 审查工具 Kira 来简化合同审查流程，使他们的合同审查时间最多缩短了 60%。

Kira 由一支工程师、律师和会计师组成的团队开发， 为其专利的机器学习合同分析系统，其内置智能工具能快速扫描文档，识别超过 1000 条常见条款、规定和数据点，以回答律师关于各类法律文件的问题。

Kira 为律师提供的使用场景包括并购尽职调查、贷款协议尽职调查、合规与监管审查、租赁摘要以及交易要点研究，律师可以以任意格式上传合同，瞬间生成摘要文本，在所有文档中搜索特定条款与条文，并按不同标签（如特定当事人或短语）筛选合同。

处于人工智能长尾的公司正在寻找创新方法利用生成式人工智能， 从彭博为金融专业人士开发的专业工具，到顾问将 ChatGPT 用作个人生产力助手。这些工具背后的模型差异很大， 从 Canva 为图像生成微调的定制模型，到 Ramp 的各种 GPT 集成。

在调研长期尾部的各类公司当前如何整合人工智能时，出现了几个模式。尽管随着底层人工智能技术的飞速进步，使用场景可能会持续演变，但这些模式很可能会延续，并暗示了长期尾部人工智能公司（即经济主体的大多数）在实施人工智能时将走的方向。

1. 公司正利用人工智能补充其现有业务，而非取代

上述示例中的公司有一个共同点：在引入人工智能之前，它们已经提供成熟的产品和服务，而是利用人工智能来补充和增强这些产品与服务。

以 Replit 为例。Replit 在推出其 AI 驱动的编程助手（2022 年 10 月）之前就已取得成功，并在 2021 年 12 月实现了 8 亿美元的估值。在那次产品发布之前，该公司已经花费六年时间为开发者解决技术难题，包括管理依赖项、部署项目以及为代码仓库存储详细的版本历史。AI 只是产品改进的下一步，Replit 的 AI 工具实际上是建立在其现有产品的基础之上——因为 Replit 的版本历史可作为其 AI 模型的训练数据来源。

再举一个例子，在网页浏览器市场上，影响个人浏览器选择的非人工智能特性有很多，包括速度、浏览器扩展、开发者工具、跨平台可用性和隐私保护。虽然 Brave 的 Leo 是一个能够直接从用户浏览器中提取洞见的有效工具，但该公司的成功源于其八年来对隐私的坚持。Leo 只是 Brave 在以隐私为先原则上的生成式人工智能延伸。

此外，2024 年 9 月和 2024 年 10 月对 Atlassian 产品管理软件 Jira 的外部评估根本没有提到人工智能。相反，它们关注的是产品的其他非 AI 方面，如易用性、集成、无代码工作流和时间线规划功能。在沃尔玛的案例中，通过大宗采购实现的低价和宽松的退货政策是其业务的关键支柱 ，人工智能可以为其提供支持，但并非其根本所在。

尽管“AI 战略”目前是最受炒作的商业话题，非 AI 企业仍需把核心用户体验放在优先位置。企业可以在内部采用提高流程效率并补充现有产品的 AI 工具，但任何 AI 实施前必须先打好基础。

2. 企业在复制同行的 AI 战略

埃莉诺·罗斯福曾说 ：“向别人的错误学习。你活不够久，无法把所有错误都亲自犯一遍。”在快速变化的 AI 市场的早期阶段，不可能对每一种 AI 迭代都进行试验。为了保持领先，企业可以复制那些被其他公司证明有益的策略。

大多数行业的公司可以拆分为相似的职能：销售、市场、客户服务、产品、工程和设计。与此同时，同一行业的公司通常也会有相似的客户、供应商和资源。

这些跨公司之间的相似性使团队能够从同行和竞争对手那里模式化匹配成功的 AI 用例。例如，鉴于波士顿咨询公司（BCG）发现使用 ChatGPT 在创意和编码任务上带来了显著的绩效提升，其他咨询公司如麦肯锡和贝恩也有理由为其顾问利用生成式 AI 工具。

相关的用例并不局限于同一行业的其他公司。例如，Brave 和 VMware 的核心产品截然不同：前者是搜索浏览器，后者提供虚拟化计算解决方案。然而，两者都将数据隐私置于优先位置，因此决定基于开源模型构建 Leo 和 SafeCoder。

先行者通过采用人工智能可以获得短期竞争优势，如果这些优势被证明是可持续的，竞争将迫使其他公司采用类似的人工智能策略，否则就会落后。例如，如果波士顿咨询公司（BCG）关于人工智能生产力的研究结果随着时间推移仍然成立，且 BCG 为其顾问提供 ChatGPT 订阅服务，那么麦肯锡和贝恩将不得不采用相同的人工智能工具以保持竞争力。如果 Ramp 的销售拓展代表的生产力确实比行业平均水平高出四倍 ，而竞争对手未能适应，Ramp 将迅速建立起强大的竞争优势。

3. 公司在人工智能战略上保持灵活

我们提出的人工智能使用四层框架，有助于梳理公司如何运用人工智能，但这些层次并非固定不变，公司可以同时实施多种策略，或为解决不同痛点而调整策略。各层之间的动态关系，以及底层模型本身，也在实时演进。

例如，直到 2024 年初，模型公司仍专注于构建越来越大的模型。以 OpenAI 为例，GPT-2 有 15 亿参数，GPT-3 有 1750 亿参数，据报道 GPT-4 有 1 万亿参数。然而，对客户来说，模型越大回报递减，因为过多的参数并不符合他们的具体需求；现在，模型公司开始发布更小、更高效的替代品，能够更快地处理信息。例如，2024 年 7 月，OpenAI 发布了 GPT-4o mini，并表示它“推动了成本效益型智能的发展”。

GPT-4o mini 被描述为“与其他小型 AI 模型大致处于同一层次”，例如 Llama 的 80 亿参数模型，同时“比以往的前沿模型便宜一个数量级，比 GPT-3.5 Turbo 便宜超过 60%”。这一策略似乎正在影响市场——例如，Ramp 的 CTO 在描述中称 GPT-4o mini 足以应对 90% 的用例，并表示与等待 LLMs 的通用改进相比， 微调通常是浪费时间。

由于人工智能工具和模型快速发展且在选择模型时转换成本较低，应避免过早投入过大。

例如，Baseten 首席执行官 Tuhin Srivastava 告诉 Contrary Research，他看到过公司高估自建模型的好处、低估所需资源的模式，很多公司可能会花费数百万美元和数月时间去尝试训练自己的模型，甚至还没来得及考虑如何将其投入生产。

Srivastava 的建议是“先从你知道会成功的东西开始，然后逐步剔除不必要的部分。”在他看来，“聪明的工程组织意识到可以直接采用现成方案，抽离‘模型’这个问题，而将精力放在定义体验上，然后用微调的开源工具进行改造。”他举例说，有些公司最初使用 OpenAI 的模型，但后来通过切换到微调的开源替代方案，实现了更好、更快且更低成本的表现。

保持灵活的公司在新一代人工智能技术推出并不断改进时，可能更有优势去利用这些技术。