返回首页
信息来源:sequoiacap.com 2026.07.27 05:04 约 6 分钟 商业洞察 1.9万 阅读

美国的开放式标准杆悖论:蒸馏还是不蒸馏?

美国的开放式标准杆悖论:蒸馏还是不蒸馏?

蒸馏还是不蒸馏?

中国越来越多地为西方公司提供用于服务、训练和开发人工智能的模型。

根据 ATOM 的报告,从 2024 年 1 月到 2026 年 2 月,Qwen 在新的开源模型微调及适配项目中所占的比例从 1%上升到了 69%。大多数美国人工智能初创公司都在其技术架构中使用了中国的开源模型。

这种依赖关系现在还延伸到了更上游的环节。西方的应用公司正在基于中国的开源模型进行开发;同时,在努力缩小与中国的技术差距的过程中,西方的实验室也把中国的模型作为训练数据来源,以此来提升自身的技术水平。

例如,Thinking Machines 独立地对 Inkling 进行了预训练,但在其监督式微调过程中,则使用了 Moonshot 的 Kimi K2.5 生成的合成数据作为辅助。

关键不在于 Inkling 在多大程度上借鉴了 Kimi 的成果。重要的是,西方实验室有合法途径来学习中国开发的开源模型,而使用 GPT 或 Claude 的输出则被禁止。

今天的流程大致如下:

  • 西方边界模型 → 据称的未经许可的国外数据提取行为 → 中国的开放权重机制 → 合法的西方训练后处理方式

缺失的直接路径是:

  • 美国边疆模式 → 合法的西部训练后模式

那为什么重要呢?预训练能够打造出功能强大的基础模型,而后续训练则能让它变成具备编码、推理、工具使用以及自主行动能力的实用系统。更强大的“教师模型”可以将原本成本高昂的探索过程转化为成本更低的学习任务。

蒸馏技术并不能完全解释中国在开放模型方面的优势。中国的研究机构拥有世界级的科研人员、强大的计算资源、先进的预训练模型,同时还具备出色的软硬件协同设计能力,其模型在训练后的性能也在不断提升。不过,蒸馏技术有助于缩小那些从强大基础模型到接近前沿水平的模型之间的巨大差距。即便蒸馏技术仅占中国模型整体性能的一小部分,但它依然构成了中国模型相对于美国开放模型的一大优势。

新的监管机制将使中国企业进行大规模蒸馏变得更为困难、耗时更长且成本更高。不过,这些监管措施无法杜绝那些由国家力量推动的蒸馏活动。因此,西方每取得一项技术进展,都会为中国实验室提供新的学习范本。西方企业要么必须独立开发出类似技术,要么就只能借鉴中国的技术模式。

这一差距使中国实验室始终拥有相较于西方企业的结构性优势。

其重要性远不止于模型收入层面。开放层架构的供应商,实际上成为了各类产品、合成数据、训练后系统、评估工具、智能代理、优化算法以及实际应用型人工智能技术的核心基础。

该奖项旨在成为全球企业构建与提升数字智能的基石。

权重是公开的。而我们的依赖关系却并非如此。

下载中文模型后,西方公司就能掌控该特定版本。他们可以在本地运行该模型,对其进行修改,并在无需许可的情况下继续使用它。

不过,人工智能技术正处于不断升级的阶段。西方的初创企业、模型开发人员以及研究人员越来越依赖那些新的 Qwen、Kimi、GLM 或 DeepSeek 模型,将其作为更强大的基础、训练工具、合成数据来源,以及进一步研究的平台。

如果中国停止发布最先进的型号,现有的产品虽然不会出故障,但会逐渐落后。路透社最近报道称,中国当局正在考虑限制国外获取这些先进型号的权限,包括那些尚未发布的型号。目前还没有正式的政策出台,但西方能否获得这些技术,最终还是取决于中国的科研机构和监管机构是否继续公开相关技术。

还有一个更技术性的安全问题:开放权重模型并不一定是可审计的模型。

这些权重是训练后的压缩结果。它们无法显示完整的预训练语料库内容,也无法表明哪些数据被过滤或污染了、训练过程中进行了哪些处理,更无法知道是否存在依赖于罕见触发条件的行为。

我们并不是说 Qwen、Kimi 或其他中文模型中存在后门。关键在于,拥有模型的权重并不能证明其中没有后门存在。后门在常规测试期间可能处于休眠状态,只有当出现某种未知触发因素时才会被激活。研究显示,那些被刻意植入的特殊行为能够经受住监督微调、强化学习以及对抗性训练的考验。

对于许多消费类应用而言,这样的供应链风险或许是可以接受的;但对于国防、情报领域以及关键基础设施来说,则是不可接受的。

开放权重机制能够让人掌控模型的部署方式。但它无法保证用户能持续使用到更先进的模型,也无法确保模型本身的一致性、可靠性与安全性。

美国直接发展路径的框架

美国企业需要一种合法途径,将美国的创新技术转化为更便宜、可自主拥有的产品。

由于没有国内路线,西方可能在封闭的边境领域占据优势,但在开放层面则不得不依赖中国。

一个有用的框架由三部分组成。

  1. 继续开发西方国家的基础模型:Reflection(旨在为企业和国家打造开放式的超级智能系统)、TML 以及 Nemotron 都取得了惊人的进展。不过,仅仅提升预训练效果并不足以解决“教师模型”问题。美国的开发者还需要一种合法的方式,来获取那些已经在美国境内开发出的技术成果。
  2. 建立受控的教师访问权限:Frontier Labs 可以将结构化的培训权限出售给符合条件的西方及盟国企业,无论这些模型是公开发布还是仅用于内部使用。此类访问权限需遵循特定规则,仅限于具备相应资质的企业使用,并且其使用情况需要被记录和审计。最敏感的生物技术及网络技术则仍需受到限制。这样一来,企业就无法复制最新的技术模型。同时,这也为技术转让提供了合法且有明确价格标准的途径,而那些先进的外国势力一直在试图秘密进行这样的技术转移。
  3. 继续提高外国蒸馏服务的成本:应持续加强身份验证、访问控制措施,同时采取手段干扰那些试图绕过这些限制的行为,并确保相关规定得到严格执行。如果无法形成自愿性的市场机制,那么访问权限最终可能会成为参与联邦级人工智能项目的前提条件。

这些只是起点而已。谁有资格获得这些服务、服务的覆盖范围应达到何种程度、定价应如何确定,以及哪些功能仍需受到限制,这些都是值得深入讨论的话题。

试想一下,如果不允许在公开网络上进行训练,我们就根本无法拥有先进的人工智能技术。这类政策举措会带来深远的变革影响。所有领先的实验室都是得益于大量公开可用的数据才得以发展。我们必须拥有一个开放、自由的未来,这对西方的竞争力而言至关重要。

如今,那种不容再被视作理所当然的现状是:西方国家负责创造相关技术框架,其中一部分技术能力会通过中国的发展模式间接传递出去;而后,西方的制造商则依赖这些模式,从而使智能技术变得更廉价、更具适应性,同时也更易于被自主控制。

该蒸馏与否并非问题所在。关键在于:西方是应创造一条合法的国内途径来实现技术转移,还是依赖通过中国这一间接途径。

了解 RecodeX-立足新加坡,洞察全球 AI 的更多信息

立即订阅以继续阅读并访问完整档案。

继续阅读