开放型与封闭型人工智能的一些基本经济学原理
如果权重是免费的,那下一次运行该由谁来支付费用?又该由谁来保障我们的安全呢?
今天,我们很高兴为大家带来特约作者克里斯蒂安·卡塔利尼的文章。如想阅读更多他的作品,请订阅他的 Substack 账号。——Danco

1851 年 5 月,数百万人走进那座玻璃建筑内的展厅,一探未来的模样。这次大展汇集了当时世界各地最先进的发明成果,包括蒸汽锤、电报机、收割机以及冲水式马桶。任何人都可以近距离观察这些技术并尝试逆向工程,各国也派出最优秀的工程师,试图从竞争对手那里获取尽可能多的技术信息。该展览的赞助人阿尔伯特亲王坚信,技术的传播对于推动经济进步至关重要。
一个半世纪后,经济学家佩特拉·莫泽将这些展览的目录以及 1851 年展会及其 1876 年美国续展上的近 15000 项发明转化为了数据集。重要的是,这些发明来自有专利保护机制和没有此类机制的国家。她的研究结果令那些最坚决主张加强知识产权保护的人感到不安:专利制度并不会影响创新水平,只会影响发明家们将注意力集中在哪些领域。当时瑞士还没有专利保护制度,因此创新者们纷纷将精力投入到科学仪器和食品等领域——雀巢就是 1866 年在瑞士创立的——因为在这些领域,保密性、研发周期以及相关的配套资源能够为他们带来足够的优势。在严格的知识产权保护制度下,创新则会更广泛地传播;同样的创新成果只是在不同领域之间进行了不同的分配而已。
如今,同样的矛盾也成为了封闭权重与开放权重人工智能模型之间争论的焦点。Anthropic 与 OpenAI 认为,来自中国企业的“提取攻击”不仅威胁到该行业为新一代模型提供资金的能力,还危及美国的国家安全。而支持开放权重的观点则认为,技术的传播对于构建一个具有竞争力且充满创新活力的机器智能市场而言至关重要。
但莫瑟的证据表明,这场争论关注的重点有误。开放模型权重不太可能改变对人工智能的投资总量,只会影响投资方向——即究竟开发什么、由谁来开发,以及谁能够获得收益。封闭式实验室可能会持续探索最基础的技术边界,而开放模型权重则能让各种企业及领域开展实验,从而将机器智能与稀缺的数据、分布资源以及隐性知识相结合。安全性问题也面临同样的分配难题。关键问题不在于开放性本身是否具有危险性,而在于当技术扩散强化了某些势力的能力时,究竟在何处才能有效限制那些有害的能力。
智能市场的发展愿景之争
反对开放模型权重的经济论据很简单:权重提取行为属于知识产权盗窃,会削弱创新动力。如果美国政府不介入并运用一切可用手段加以制止,不仅美国的实验室将无法为下一次大规模训练提供资金支持,中国还会搭便车利用我们的成果并取而代之。按照这种观点,开放模型权重会严重阻碍创新发展。
相反的论点则着眼于通用技术在过去是如何在经济体中传播的,其结论是:开放模型权重不仅具有明显的促进竞争与推动创新的作用,而且没有它,美国将会迅速落后。在互联网时代,正是开放性与实验精神让我们保持领先,这次也不例外。
安全问题进一步加剧了这一讨论的复杂性。达里奥·阿莫德伊多年来一直反对开放模型权重,认为它们会带来极大的安全风险。他相信,一旦人工智能的智能水平超过某个临界点,社会就将无法抵御恶意行为者的攻击,而那些失控的模型可能会造成足以威胁人类生存的破坏。唯有通过控制访问权限并设置相应的限制,这个“数据中心里的天才们”的国度才能继续存在。更糟糕的是,由于开放模型权重无法被“召回”,我们可能会在毫无预警且毫无补救办法的情况下突然陷入灾难性局面。
阿莫德伊的批评者指出,如果没有开放模型权重,人工智能领域的市场将会迅速变得极为集中。对 Anthropic 而言,十分幸运的是,其商业利益不仅与人工智能安全目标完全一致,还与美国的国家安全诉求相契合。安全研究人员也经常破解封闭模型的安全保护机制,而 Anthropic 与 OpenAI 的模型早已被黑客广泛利用,甚至被用来入侵敏感的政府基础设施。他们认为,尽管封闭模型能给人一种安全的假象,但充其量也只能为我们争取一些时间而已。
双方都担心,如今的错误决策会让我们陷入无法挽回的困境。同时,双方也都真心认为自己的方式才是保障我们安全(或尽可能安全)的唯一途径。幸运的是,经济学并不偏袒任何一方。
从未存在过的可占有机制
为了赶上技术前沿,其他众多实验室都将 Anthropic 与 OpenAI 视为竞争目标。Anthropic 甚至公开要求国会制裁阿里巴巴,指责其实施了肆无忌惮且非法的攻击行为,企图窃取该公司的技术。如果中国的实验室能够通过各种手段在短短几个月内就以较低成本复制出与这些模型相当的性能,那么美国的实验室又该如何持续为必要的训练工作提供资金支持呢?
Anthropic 的诉求存在的问题在于:除了虚假账户和对其 API 的系统性滥用之外,它所期望的那种类似专利性质的权益保护机制其实从来就不存在。模型蒸馏是一种合法的行业做法,与过去美国国防、航空航天及芯片行业的企业所面临的间谍活动及商业秘密窃取行为截然不同。中国的研究机构并非在偷窃这些公司的核心模型权重,而是在让美国的模型充当自己模型的训练范本。
输出内容并不受版权保护,人工智能实验室通常会将这些内容的所有权交给客户。服务条款仍可能禁止客户利用这些输出来训练竞争性模型。但这引出了一个显而易见的问题:既然这项技术如此先进,为什么实验室不能用它来阻止模型蒸馏行为呢?答案在于,无论是内容还是来源都无法暴露攻击意图。每一项请求看起来都像是正常客户的操作,而有组织的攻击者可以通过大量虚拟账户、聚合平台以及不同司法管辖区来分散请求量。在没有给各方带来更沉重负担的情况下,实施管控就只会变成一种不断封禁却又极易被替代的徒劳之举。这一权衡在 Fable 身上已经表现得十分明显——其对前沿人工智能研发工作的辅助功能设置限制过严,令客户极为不满,迫使 Anthropic 在数日内就不得不进行调整。那些力度过大、足以起到反欺诈作用的管控措施,势必会波及到更广泛的合法工作。从长远来看,阻止客户使用他们已付费获得的模型输出结果来进行训练其实是一种不划算的策略:如果限制过于严格,高级用户就会转而使用开放权重模型。
最后,将过去十年中推动人工智能发展的重要技术视为非法手段,这使那些顶尖研究机构陷入极为困境,因为它们目前正是依靠大量的合理使用论据,才能对海量的网络内容、媒体资料和书籍进行加工利用。
但如果我们暂且抛开疑虑,顶级人工智能模型能够充当“老师”来提升性能较弱的模型这一事实,真的会对美国的人工智能发展造成负面影响吗?如果政府能够运用其软实力、政策及外交手段来强制推行这一点,我们又是否真的愿意呢?
该垄断还是不该垄断?
理查德·纳尔逊在 1959 年,以及诺贝尔奖得主肯尼斯·阿罗在 1962 年,都曾苦苦思索过这个完全相同的问题。知识是非竞争性的:我对一个想法的使用并不会妨碍你同样使用它。一旦被分享,想法也是非排他性的。因此,一个想法的社会价值超过了其发明者所能获取的部分,这引发了经典的担忧,即某些类型的想法从一开始就永远不会得到充分的探索和资助。
模型权重,至少在没有任何附加软件的情况下,其行为在很大程度上类似于思想。
对社会而言,这归结为一个简单的跨期矛盾:一旦某个想法诞生,社会希望它能尽可能广泛地传播。毕竟,其边际成本——如同下载模型权重的成本——接近于零。但在想法被发现之前,社会需要有人真正相信他们能够获得可观的回报并收回研发成本。
约瑟夫·熊彼特一生都在与这一冲突作斗争,在垄断租金对鼓励初始投资的价值,与初创企业和创造性破坏打破垄断并推动后续大规模增长的需求之间摇摆不定。最终,他得出结论,社会能做的最好的事情多少有些矛盾:授予暂时的垄断权,然后任其发展。
自那以后,关于创新经济的所有讨论本质上都是围绕这种垄断应当持续多久,以及应通过何种手段来维持它而展开的永无止境的争论。不过有一个重要因素可能会显著影响决策,从而决定是采取开放模式还是封闭模式。
创意复利
大多数(即便不是全部)创新都是某种形式的思想重组的结果。在累积性以及能够重新组合过往成果尤为重要的领域,必须谨慎权衡授予先行者的权利期限与强度,与后来者因探索延迟而产生的额外成本。领先的人工智能实验室,无论资源多么雄厚,也只能探索有限数量的有前景路径,这一点同样适用于人工智能安全领域。
人工智能始终是快速蒸馏的成果:如今令人惊叹的模型,既得益于“AI 寒冬”期间数十年神经网络学术研究的馈赠,也离不开谷歌对 Transformer 架构的公开。从这个角度看,开源权重模型作为闭源模型的学生,正是这一脉络的直接延续。模型输出是生态系统进步的关键研究输入。
关于限制研发投入获取如何影响创新的最纯粹自然实验,来自另一场竞赛:营利性公司塞莱拉与公共资助的人类基因组计划之间,争夺 DNA 测序的竞争。当塞莱拉率先完成某个基因的测序时,它通过收费、限制再分发以及对商业用途的许可要求来限制获取。海迪·威廉姆斯发现,与那些从一开始就公开的类似基因相比,这些基因吸引的后续研究和产品开发减少了 20%至 30%。尽管这些限制是短暂的,并在两年内随着公共项目独立测序出相同基因而消失,但差距依然存在。直到 2009 年,塞莱拉测序的基因仍落后于其他基因。
当后续工作的价值很高时,即使是微小的初始摩擦也会不断累积。对称地,消除摩擦可能对创新的速度和方向产生重大影响:在研究生物材料时,杰夫·弗曼和斯科特·斯特恩发现,当投入品更容易获得时,累积性提升了 57%至 135%。在基因工程小鼠的背景下,菲奥娜·默里、菲利普·阿吉翁及其合著者研究了当国立卫生研究院谈判取消杜邦对数百种 Cre-lox 和 Onco 品系的限制时发生了什么,终止了限制学术获取的延伸使用费和报告要求。后续研究增加了。更有说服力的是,它向外扩展:新研究人员进入,并探索了更多新颖的研究路径。在上游,新型工程小鼠的创造未受影响。
总体而言,当累积性和广泛探索的收益较高时,开放是主导策略。这也意味着,在不确定性仍然相对较高的时期,如当今的人工智能领域,社会从开放中获益最大。当剩下的只是沿着已知轨迹执行时,封闭的危害就小得多。即使在那种狭窄的情况下(例如,一种临床益处已明确、现在需要商业化的分子),社会也仅以授予临时垄断权来换取相关信息。专利本身就是促进扩散、避免商业秘密导致完全不披露的工具。
现在你可能会想,这些来自科学密集型领域的例子是否也适用于人工智能。毕竟,大规模提供模型服务需要巨额基础设施投资,而实验室的大部分风险正集中在这一建设过程中。但电信行业的教训完全相同。1956 年,一项反垄断和解协议迫使 AT&T 以免费许可的方式开放其有史以来最有价值的专利组合之一。根据 Martin Watzinger 及其合著者的测算,一旦 AT&T 的发明(包括晶体管)突然可供他人在此基础上进行开发,五年内发明活动增长了 17%。有趣的是,这一效应并非由其他大公司搭 AT&T 知识产权的便车所驱动,而是来自进军完全不同市场的新企业。贝尔实验室也加倍投入其核心业务,并未因创新而却步:1957 年激光、1962 年通信卫星、1969 年 Unix。
虽然让其他人在你的想法基础上继续发展可能会让 Anthropic 和 OpenAI 感到沮丧,但好消息是,除了极少数例外,这正是经济进步的方式。威廉·诺德豪斯发现,创新者平均只能捕获他们为世界带来的社会盈余的~2.2%。人工智能也不例外。但这也将 Anthropic 向美国政府提出的要求置于背景中:社会并不欠这些实验室一个更强的可占有性制度。事实证明,已经有一个不同的制度在运行了。
创新的最后一英里
当一项新的通用技术出现时,它最初必须被强行改造以适应现有体系。这些初期的“点状解决方案”仅实现了新范式的一部分价值,只有当架构能够从基本原理出发重新设计时,这项技术才真正具有变革性。
这种格局的转变需要对各类关键的互补性资产进行掌控与调整,包括基础设施、信任基础、产品分发渠道以及与监管机构的关系等。这为现有企业带来了第二次机会:尽管新进入者此前可能出其不意地超越了它们,但随着对这类互补性资产的依赖成为制约因素,现有企业或许能够通过模仿或收购等方式实现追赶,从而保住自己的地位。
20 世纪 80 年代,耶鲁大学的理查德·莱文及其同事向美国各创新领域的企业高管提出了一个基本问题:是什么保障了你们的研发投入?专利并未位列其中。而位居前列的则是学习能力、保密措施、产品开发周期以及互补性资产。十年后这项研究再次展开,结果依然如故。仅有少数例外——比如制药和化工行业,因为在这些领域,某种特定的分子就能决定整个产品类别,所以有限的排他性也具有实际意义。但在经济活动的绝大部分领域中,能够阻止他人获取核心创意的能力其实十分有限。
每当产品的可占有性较弱时,依然能够获得可观的利润;这些利润只会流向那些掌控着能让产品变得更优质、更便宜、更快捷的配套资源的人。一个典型的例子就是披头士乐队的唱片公司 EMI,它同时也是一家电子企业,并为第一台 CT 扫描仪申请了专利。其首席工程师戈弗雷·豪恩斯菲尔德因此获得了诺贝尔奖,而 EMI 却未能分得任何利益。几年后,该公司被收购,CT 扫描仪市场便落入了通用电气和西门子的手中。通用电气的核心优势则在于医院分销与服务网络,也就是让扫描仪真正进入市场的“最后一公里”渠道。
人工智能诞生于“可占有性”较低的领域。在迈向通用人工智能的竞争中尽管竞争异常激烈,但研究成果仍会不断走出实验室;按照硅谷的传统,人才也在各企业之间不断流动;同时,这些模型的 API 也会不可避免地泄露有价值的信息。从所有这些方面来看,即便采取最严厉的应对措施,也只能为处于前沿的实验室争取稍多的时间优势。更何况,在当前阶段,顶尖人才和大型企业客户拥有极大的话语权,这类措施反而很可能会适得其反。
当然,并非实验室的所有核心机密都会被公开。据 Epoch AI 称,最终的训练过程仅占总计算成本的 10%到 23%,而实验室在数据收集与筛选、基础设施设计与优化,以及从失败实验中吸取经验等方面,积累了大量宝贵的隐性知识。但其中的道理是相同的:如果这些实验室无法迅速获得在市场上推广人工智能所需的关键配套资源,那么价值就会转移到其他地方。
这解释了为何 AI 实验室一直试图通过将模型与工具链紧密耦合,并向下游应用层扩展(如 Claude Cowork、Claude Tag 和 ChatGPT 计算机使用等工具)来增强客户锁定效应。这些工具不仅收集有意义的痕迹以复制人类技能、决策和判断,还放大了客户将所有交互和记忆投入同一产品家族而非多归属时获得的价值。如果你能成为客户所有 AI 需求的入口,即便底层智能已商品化,你仍有许多方式将这种体验演进得更具粘性。
除了在应用层扩张和通过垂直整合算力以获取成本优势之外,监管可能是前沿实验室将互补性资产强行纳入竞争格局的最有效途径:如果它们能以安全为名,大幅提高模型评估和审批的门槛,就能让那些没有同样配备精良、全明星级的政策、监管、合规和安全团队的竞争对手更难参与竞争。
这一教训在其他监管严格的行业中行之有效,从金融服务到医疗保健皆是如此。这也是数字平台在欧盟推出号称“亲消费者”的隐私规则后所发生的情况:GDPR 并未限制大型企业的数据收集,反而对没有资源应对错综复杂规则的其他所有企业产生了寒蝉效应。
但监管俘获的可能性并不能解决安全问题。实验室的说法可能既出于自身利益,又同时是正确的。开放权重模型是否必然比封闭模型风险更高,还是将控制权集中在少数参与者手中会带来更大的系统性风险?
安全最后一英里
美国在推动无许可实验方面具有比较优势,而非过早监管新技术或挑选赢家。但适用于互联网的成功模式,或许并不适合人工智能:如果开放权重过于危险,那么强有力的护栏和身份验证是否才是驾驭前沿能力的唯一安全之道?
更严格的管控提高了滥用系统的恶意行为者的门槛。但由于该技术具有双重用途,这些管控不可避免地也会限制更广泛的善意行为者的访问。取决于在特定领域中防御能力的快速扩散有多重要,封闭模型未必总是更安全。
平衡点取决于两个经济问题:边际上谁从扩散中获益最多,以及在哪里实际上可以限制访问?在网络领域,防御分布在极其众多的组织和设备中。开放权重降低了审计代码、修补漏洞和升级遗留基础设施的成本,而老练的攻击者可能能够绕过模型层面的控制。因此,限制访问将对广泛的防御者群体造成负担,却无法有效排除最有能力的对手。
在生物学领域,计算方式可能有所不同。一种单一的危险能力可能会造成社会难以防御的不可逆伤害。因此,如果利用延迟扩散的时间来加强筛查,并控制将模型输出转化为大规模物理伤害所需的稀缺物理投入(如合成器、专业设备和生物材料),那么延迟扩散就具有特殊价值。互补资产的教训同样适用于安全领域:当瓶颈由原子构成时,它提供的针对恶意行为者的遏制点远比软件护栏更为有效。
面对真正具有系统性且关乎生存的风险时,天平可能会进一步向开放性倾斜。在充满未知因素的情况下,识别或化解人工智能攻击及其可能带来的严重副作用所需的知识,更有可能分散在众多人手中,而非集中在少数人工智能实验室的员工身上。如此一来,开放模型权重有助于构建更加坚韧且多元的人工智能防御体系——在这种体系中,防御能力是广泛分布的,而非局限于少数几家机构。如果将人才、创意以及评估和测试漏洞的能力都集中在少数人手中,那么一旦出现问题,社会将几乎毫无应对之策。
当然,这并不意味着无需像封闭型模型那样经过独立的第三方测试,就可以直接发布功能强大的开放权重模型。分阶段发布还能让生态系统在新的功能出现时及时学习并做出调整。从更广泛的角度来看,安全研究人员应当更多地研究在训练的不同阶段可以采取哪些措施来削弱或消除有害功能,而非仅仅依靠拒绝使用这类模型。
我们目前的方法在很大程度上依赖于各种约束机制。但如果最现实的出发点是假设这些约束会被突破,那么就有必要加快对替代方案的研究。问题或许不在于开放与安全之间如何选择,而在于究竟该选择那种依赖我们控制数据能力来保障安全的方案,还是那种预先考虑到控制可能失败而设计的安全方案。
这仍然引出了一个商业战略层面的问题:无论优劣如何,这些人工智能实验室能否通过掌控安全监管措施来阻碍国内外开放模型权的发展?还是说,这项技术本身的经济规律正在将发展引向另一个方向?

掌握模型权重所有权
许多企业认为,领先的 AI 实验室可能通过监管手段掌控行业格局,这会对其业务构成威胁,因此开始倡导采用“主权式”的技术发展路径,首先确保开放模型权重不会使其处于监管劣势。重视开放模型权重的目的,一方面是为了减少对供应商的依赖——因为在企业实际应用中,需要投入大量定制化工作才能让模型发挥最佳性能;另一方面则是为了保护企业最宝贵的信息。
为了让模型能够处理日益复杂的专业工作流程,就需要更精细且具有独有性的数据。目前这些数据仍掌握在行业领军企业手中,但来自工程、设计、金融、会计和法律领域的各类人工智能实验室正在积极寻求创新方法来获取更多此类数据。其中一部分是存储在领域专家头脑中的隐性知识;另一部分则存在于长期运行的记录系统中;还有一部分至今尚未被量化——尽管企业通常已经与合适的供应商和客户建立了稳定的合作关系,具备收集这些数据的能力。
因此,尽管最初实验室与企业之间的交流主要集中在合作层面(用我们的技术,结合你们的行业经验),但如今许多客户越来越担心自己会很快不得不与自己的 AI 服务提供商展开竞争。失去对“模型权重”的控制确实是个令人担忧的问题,尤其是因为平台提供商有强烈的动机违背其中立承诺,偏袒自家产品。Anthropic 与 Figma 之间目前紧张的关系就是一个很好的例证——Figma 最初是 Anthropic 的客户,但现在却不得不通过竞争来避免被架空。
最初,企业对开放权重模型的兴趣主要是出于成本考虑,这是对员工们长期通过“tokenmaxing”方式来提升生产力的自然修正。通过转而使用成本更低的开放权重模型,企业可以将相当一部分的代币需求从价格更高的前沿模型上转移开。各 AI 实验室则开始通过逐步降低入门级模型的价格,并让这些模型与其产品更好地配合,来应对这一趋势。
但从长远来看,成本并非企业应当关注开放性的原因:控制才是关键所在。的确,相关实验室承诺不会利用模型的输入和输出数据来进行训练,但实际上,与这些工具的交互仍会泄露有价值的信息。此外,随着工具的不断发展,以及企业投入大量资源来定制自身的人工智能流程,供应商锁定效应只会愈发严重。因此,对大多数市场领导者而言,开放模型权重不仅仅是一种降低成本的手段,更是关乎生存的关键。在未来的几年里,每家企业都需要一种方法来训练、优化并掌控那些支撑其核心业务运营的模型。如果无法保留最宝贵的隐性知识与经验,它们就会被淘汰出市场。
从 Thinking Machines 与投资公司 Bridgewater 最近的合作伙伴关系中,我们可以窥见在更强调自主权的架构下未来可能呈现的景象。对于对冲基金而言,盈利才是关键,因此我们预计 Bridgewater 在选择人工智能架构时会格外谨慎。在这次合作中,双方携手训练了一个定制模型,作为 Thinking Machines 现有模型的扩展。该研究机构提供通用型机器智能技术与人工智能训练工具,而对冲基金则贡献其独到的见解。这种分工模式不仅保护了 Bridgewater 的利益,还使其能更好地掌控那些蕴含其核心知识产权与隐性知识的所有模型权重。
从战略层面来看,尽管 Anthropic 与 OpenAI 有时会被各自的客户视为潜在竞争对手,但 Thinking Machines 则采取了提升整个价值链的发展策略——只有当其客户也能获得成功时,它自己才能成功。Microsoft 与 Palantir 也选择了类似的路径,致力于成为那些希望将机器智能技术保留在自身体系内的企业的基础设施及人工智能工具供应商,未来还会有更多企业跟进这一趋势。
哪种方式更适合智能市场?是先由少数顶尖人工智能实验室打造全年龄通用智能,再向下游延伸发展,还是从应用层自下而上入手,将各种创意与改进反馈到众多开放权重模型中?这取决于对智能的需求形态。
描绘智能的曲线轨迹
任何全年龄适用的技术所带来的益处都会渗透到各个行业之中,以至于没有任何一家企业能够将其据为己有。从理论上讲,这可能会导致投资不足。Anthropic 与 OpenAI 开发的 AI 模型越是具备通用性,价值创造与收益获取之间的差距就越大,这也或许可以解释为何近期人们更关注那些用于特定领域的计算机技术及生命科学相关模型。有人会担心,如果没有这样的研究机构,那些变现难度较高的机器智能领域将会被忽视,因为各方都更愿意利用现有的基础能力,只在那些人们愿意支付高昂成本的领域进行研发。
但这种观点忽视了模型权重开放化使昨日的尖端技术变得普及所带来的一个重要后果:随着成本大幅下降,许多原本不具经济可行性的应用突然变得可以实施。这加速了技术的采用,而随着采用的增加,有动力支持共享技术资源的公司数量也会随之上升。我们在 Linux 这样的开源软件中就已经见过这种情况——那些拥有互补业务模式的公司会为公共资源做出贡献,而这很可能也解释了为何 NVIDIA 能够凝聚起一支规模庞大且多元化的阵营来支持模型权重的开放化。
这会导致市场以一种特定的方式分化。相关的曲线体现的是每增加一单位模型能力所能带来的收益。在大多数领域中,这种收益会迅速下降:一旦模型性能达到足够水平,进一步的提升所带来的好处就远不如价格、可靠性以及部署的便捷性重要了。人工智能将会像商品一样按使用量计费,就像电费中的电量费用那样。开源模型或以成本模式运行的封闭模型将为这部分市场提供服务,而那些在基础设施或计算能力方面具有优势的企业则将通过成本竞争取胜。某些实验室甚至可能会将普通模型服务打包或互相补贴,以此留住那些能带来更高利润的模型的用户。
但生成增值代币的情况则有所不同。当企业变成将输入代币转化为更优质版本的代币工厂时,只有掌握了更优质的真实数据、资料以及人才,才能获得合理的利润空间。这些要素对于扩大可自动化处理的范畴、打造更能适应当前环境的机器智能至关重要。正是在这里,互补型资产将发挥关键作用,而那些最优秀的模型,也将由那些擅长将现实世界中的各种障碍转化为更优质代币的企业所打造出来。只有当代理系统值得信赖时,它才能创造价值,而要实现这一点,就需要更完善的验证基础设施。提升验证效率的唯一途径,就是拥有比竞争对手更优质的真实数据。当然,通过快速传播也能比其他方式更快地获取这类数据。
其他领域的曲线则呈现相反的形态。在网络领域、金融领域、前沿研发领域(包括人工智能开发)以及可申请专利的技术领域中,微小的能力优势就能带来极高的回报。这种凸形收益结构能够维持暂时的垄断利润,因为买家愿意为最优质的模型支付高昂费用,而不会选择次优方案。这些利润最终会落入通用型实验室手中,还是专门机构手中,则取决于谁能首先获取所需数据。
不过,那些回报最高的领域具有许多处于前沿的实验室所忽视的特点:在最具挑战性的领域中,最终的购买者并非普通用户或企业,而是国家。而当真正关乎重大利益时,各国根本无需通过市场来运作。从对 Fable 和 Mythos 模型的禁令中,我们已经可以看到这一趋势的端倪。随着美国与中国在人工智能、机器人技术、量子科技以及航天领域展开激烈竞争,双方都会不择手段地争取领先优势。因此,领域的竞争越激烈,一旦有实验室取得真正前所未有的成就,它就越有可能被严格管控,甚至被收归国有。具有讽刺意味的是,任何人工智能实验室若想保持自主性,就必须取得成功,但又不能过于成功。
这就引出了一个关于 AGI/ASI 的自然疑问。虽然许多人认为,在所有可验证的领域中我们已经拥有了类似 AGI 的超级智能,但值得思考的是,一旦实验室实现 ASI,此前讨论的所有观点是否仍然适用。事实上,ASI 正是各实验室致力于追求递归自我改进而非着眼于盈利性产业领域的根本原因。有人认为,只要先解决智能问题,整个经济体系都会向代码屈服。但如果你认为分布式、隐性知识对 ASI 的效能依然重要,那么很快就会意识到,互补型资产的价值并不会随着 ASI 的出现而消失,相反,它们可能会成为技术部署过程中的最后瓶颈。最后,既然 ASI 是由各种理念构成的,要永远将其封存是不可能的——它总会泄露出去,相关技术会逐渐商品化,而价值则又会集中在那些仍存在摩擦的领域之中。
通用模型与专用模型,以及那些未知的未知因素
至此,希望已经明确的是,开放权重所挑战的并非 AI 投资水平本身,而仅仅是其投资方向。
在一个开放权重占主导的世界里,只要每个领域至少有一家公司拥有互补的商业模式或资产来确保可占有性,进步就能持续。像 NVIDIA 这样的公司,自然关心任何能增加智能需求的领域。其他公司则因为 AI 降低成本、提升质量、增强参与度和留存率等而关注。以开放模型为中心的结果是,机器智能仍然非常强大,但趋于专业化。在这种情况下,取决于每个领域如何实现和更新最先进技术,通用型 AI 实验室可能面临与 EMI 相同的命运:它发明了 CT 扫描仪,却无法将其商业化。
在光谱的另一端,如果所有进步都局限于少数大型实验室,那么社会将受益于最通用形式的智能。这种情况可持续的条件是,实验室在每一轮中都能获得足够的优势和领先时间,以回收研发成本并抵御商品化。这是一个实验室拥有显著市场力量的世界,但开放权重通过使它们的地位至少部分受到挑战来制衡它们。
根据对机器智能需求的实际格局,这两种情形可能会在一段时间内继续共存:封闭式实验室占据市场高端,开放权重模型则服务于大部分应用场景,而且这一状况会随着每一代技术的发展而重复出现。但如果通用人工智能/超人工智能的生成成本变得极低,那么最后剩下的竞争优势将属于那些尚未被发现的信息以及所有尚未被测量的内容。此时的竞争将演变为一场较量,看谁能够首先找到与宇宙交互的途径并获取相应信号,再将其反馈给超级智能体。而在这样的竞争中,多种分布式智能形式很可能会比集中式智能拥有更大的优势。
弗里德里希·哈耶克所指出的中央计划体制的致命缺陷并非在于规划者缺乏智慧或计算能力,而在于无论多么聪明的人都不可能掌握所有相关的知识。这些知识是分散的、局部的,往往以隐性形式存在且不断变化,也就是“与特定时间和地点相关的知识”。即便拥有超级智能,也必须不断深入现实世界去获取这些知识。
市场之所以能优于中央计划,是因为它能够将无数次与现实的独立互动转化为一种分散式的探索、适应与选择过程。众多相互竞争的超级智能系统,各自以不同的假设和价值观去探索宇宙的不同领域,其发现成果将会超过任何单一的智能系统,无论后者多么强大。开放模型权重也遵循同样的逻辑:它能够让智能在各个地方都被不断调整,而非仅在一次优化后由中心统一分配。监管干预或许会减缓其传播速度,削弱这种发展动力,但绝无法逆转这一趋势。