大模型推理的账,正在从算力算到内存

当一家AI芯片公司不再把峰值算力当作第一卖点,而是反复强调“数据少搬家”,这通常意味着行业的核心矛盾已经转移。大模型进入规模化推理阶段后,云端服务商开始用更细的账本衡量成本:一次请求的延迟、每百万Token的能耗、单位算力的实际利用率。传统冯·诺依曼架构下,计算单元与存储单元分离,参数规模、上下文长度和并发请求的每一次增加,都会把更多时间消耗在数据搬运上。芯片的纸面算力再高,如果存储供数跟不上,实际利用率依然会被拉低。

杭州微珩启元科技选择在这个节点进入市场。据36氪报道,该公司在一个月内连续完成两轮融资,但未披露两轮融资的具体金额和投资方。资金将主要用于AI推理芯片及高带宽内存相关技术的研发与设计。这家公司由浙江大学信息与通信工程博士李炳博参与创办并担任CTO,技术切入点是通过3D DRAM堆叠和近存计算缩短存储与计算之间的距离,从芯片架构层面缓解AI推理中的“内存墙”问题。

一个月内连融两轮,却没有金额、没有轮次、没有投资方,这在创投市场并不常见。它既可能意味着交易仍在敏感期,也可能意味着这家公司更希望市场关注其技术路线而非资本标签。无论如何,微珩启元把“3D DRAM近存计算”这个长期停留在学术讨论和工程验证阶段的概念,重新推到了AI推理芯片的商业化叙事中心。

字段 内容
公司 杭州微珩启元科技
轮次 未披露(一个月内连续完成两轮)
金额 未披露
投资方 未披露
总部 杭州
创始人 李炳博(参与创办并担任CTO);孔剑平(董事长);胡楠(CEO)
官网 https://nano-trix.com/

这一转变也改变了芯片公司的价值评估方式。当推理负载的瓶颈从计算单元转向存储子系统时,单纯比较TFLOPS或纸面带宽已经不足以预测实际吞吐能力。更接近真实业务的指标可能是单位Token成本、每瓦特有效吞吐以及长上下文场景下的延迟稳定性。对创业公司而言,这既意味着新的切入机会,也可能意味着客户验证标准更加复杂:云厂商不会只看架构创新,还会要求与现有推理框架、监控体系和运维流程的兼容性。

一支做过3D DRAM量产的团队,把履历押在推理芯片上

微珩启元并不是一支从零开始组建的创业团队。据36氪报道,CTO李炳博拥有20多年芯片研发与管理经验,曾主导多款3D DRAM计算芯片完成从研发、流片到量产落地的全过程。董事长孔剑平是毫微科技(Nano Labs)创始人,曾带领嘉楠科技和毫微科技两度登陆资本市场;CEO胡楠是Nano Labs联合创始人,曾入选工信部IC领军人才。据36氪报道,三人共事近十年。

团队的产品化履历被36氪以时间线方式列出:2018年底开始设计近存计算芯片;2020年完成近存计算ASIC芯片商业化量产;2021年实现3D堆叠近存计算芯片商业化量产,同期成为中芯国际N+1工艺的早期量产客户;2022年实现800mm²大尺寸全RDL走线封装量产;2024年完成3D堆叠480mm²近存计算ASIC量产。据36氪报道,团队计算芯片累计销售超过250亿,但来源未说明币种与统计口径。

这些数字构成了微珩启元最核心的信任资产。在AI芯片创业公司普遍面临“流片容易、量产难、客户验证更难”的背景下,一支声称已经多次走过量产闭环的团队,其说服力远高于仅凭架构PPT融资的团队。但需要明确的是,上述履历均来自36氪报道的单方表述,尚无独立第三方验证。尤其是“累计销售超过250亿”这一口径,未说明统计周期、产品类别和收入确认方式,无法判断其实际商业规模。

学术侧,现任香港科技大学首席副校长、香港生成式人工智能研发中心主任郭毅可担任首席人工智能科学家顾问。这一配置与公司主打的MoE推理方向形成呼应,但顾问角色对产品定义和客户导入的实际影响,仍待后续验证。

从团队结构看,微珩启元把工程化履历与学术顾问放在同一叙事中,可能是为了同时覆盖量产可信度和前沿算法适配两个维度。但这两类资产的验证方式并不相同:量产记录需要具体产品、客户和收入数据来支撑,学术顾问的价值则需要观察其是否参与架构定义、算子映射或模型适配决策。在公开信息仅给出头衔和时间线的情况下,外部观察者能确认的是团队具备相关背景,尚不能确认这些背景已转化为当前产品的工程优势。

把计算、存储和互联当作一个整体重新设计

据36氪报道,微珩启元的技术路线以3D DRAM近存计算承接大模型推理对高带宽、大容量存储的需求,以SRAM存算一体加速对时延最敏感的核心算子,再通过开放可定制的RISC-V架构实现多类计算单元的异构调度与协同。整条技术路线立足国产先进工艺落地。

这一组合的逻辑是清晰的。大模型推理对存储的需求并非单一维度:权重加载需要大容量和高带宽,KV-Cache访问对延迟极其敏感,而不同算子对计算密度和存储距离的要求差异显著。单一架构很难同时满足这些需求。将多层DRAM堆叠用于容量和带宽,将SRAM存算用于关键算子的低延迟加速,再用RISC-V做异构调度,理论上可以在性能、功耗和成本之间找到更灵活的平衡点。

但“理论上”三个字的分量在这里很重。3D DRAM近存计算的核心难点不在架构概念,而在工程实现。多层DRAM堆叠涉及热管理、信号完整性、良率和封装可靠性等一系列问题;高密度垂直互连的工艺窗口比传统2D封装窄得多;而SRAM存算一体虽然延迟优势明显,其面积成本和容量限制决定了它只能承担有限的计算任务。把这三条路径真正融合到一款可量产芯片中,并让软件栈能够高效调度,难度远超分别验证单项技术。

从已披露的团队履历看,其在3D堆叠近存计算ASIC和先进封装领域确实有量产记录。这意味着微珩启元至少不是第一次面对这些工程难题。但过往量产记录对应的产品规格、应用场景和客户规模均未披露,无法直接推导出面向当前大模型推理负载的产品竞争力。

把三条技术路径放在同一颗芯片或同一套系统中,还意味着验证成本会叠加。3D DRAM堆叠的良率问题、SRAM存算的面积效率问题、RISC-V软件栈的成熟度问题,任何一项出现偏差都可能拖累整体进度。据36氪报道,整条路线立足国产先进工艺落地,这可能指向供应链自主可控的诉求,但国产工艺在先进封装和高密度互连上的具体能力边界,仍需通过实际流片结果来验证。在缺乏性能指标和流片状态的情况下,这套融合架构目前更适合被理解为一种技术方向声明,而非已经通过工程验证的产品定义。

四代产品只规划了两代,商业化仍停在需求储备阶段

微珩启元的产品规划以中国古代科学家与发明家命名:第一代“蔡伦”C系列、第二代“刘徽”L系列、第三代“一行”Y系列、第四代“毕昇”B系列。据36氪报道,前两代C系列与L系列已完成规划,支持64至千卡超节点及超大集群内存架构,面向超大规模MoE模型推理。产品形态覆盖云端服务器推理加速卡与大规模推理集群解决方案,并延伸至私有化大模型部署、桌面端AI推理芯片等场景。

“完成规划”与“完成流片”“完成量产”之间的距离,是评估这家公司时必须守住的分界线。四代产品中仅前两代完成规划,后两代甚至尚未进入公开描述阶段。36氪报道没有披露任何一代产品的具体规格、性能指标、流片状态或量产时间表。这意味着微珩启元当前仍处于产品定义和工程验证的早期阶段,距离可交付的商用产品还有相当距离。

在商业化层面,据36氪报道,其服务器推理加速卡面向云厂商和政企数据中心,可用于私有化大模型集群和API服务建设,同时布局推理超节点和千卡规模的“Token工厂”解决方案。据36氪报道,公司已储备近百亿客户需求,但来源未说明币种与统计口径。这一数字既可能是意向订单,也可能是客户预算池的粗略估算,甚至可能包含关联方或潜在合作框架。在芯片行业,从“客户需求储备”到“实际采购订单”再到“规模收入”,每一步的转化率都可能大幅衰减。

真正值得关注的是“Token工厂”这个提法。它指向的不是单纯卖卡,而是提供一种以Token产出为目标的推理算力系统。这意味着微珩启元试图把竞争维度从芯片性能延伸到系统级交付能力,包括KV-Cache池化、与国产GPU的异构组网、集群调度和运维。如果这一方向能够落地,其客户价值将比单卡销售更具粘性;但相应的交付复杂度和资源投入也会成倍增加。

“Token工厂”的提法还隐含了一个商业模式假设:客户愿意为可计量的Token产出付费,而不是为硬件本身付费。这种模式如果成立,可能改变收入确认方式和客户关系,但也要求微珩启元承担更高的系统可用性责任。一旦集群出现调度效率下降或内存资源争用,成本压力会直接落在方案提供方而非客户侧。因此,这一方向能否推进,不仅取决于芯片性能,还取决于公司在集群软件、运维体系和交付团队上的投入是否与硬件研发同步。

与HBM路线和国产GPU的竞合,决定了它的生存空间

微珩启元面临的竞争格局并不简单。在解决AI推理内存墙的路径上,行业主流方案是HBM(高带宽内存)。英伟达、AMD等厂商通过将HBM堆栈与GPU封装在同一基板上,大幅提升了内存带宽。微珩启元选择的3D DRAM近存计算,在概念上与HBM有交集,但技术实现和系统定位不同:HBM本质上是更快的存储,而近存计算试图把部分计算下沉到存储附近。

这意味着微珩启元必须回答一个关键问题:相比直接使用搭载HBM的成熟GPU,其方案在单位Token成本、能效和部署复杂度上能否形成足够大的优势,大到足以让客户接受一套新的软件栈和运维体系。RISC-V架构的开放可定制性在硬件层面是优势,但在软件层面意味着需要自建或适配大量工具链、算子库和框架支持。36氪报道未披露微珩启元前两代产品在单位Token成本、能效或部署复杂度上的任何量化指标,也未披露其与现有HBM方案在具体客户场景中的对比数据,因此这一关键问题目前无法从公开信息中得到回答。

另一个竞争维度来自国产GPU厂商。据36氪报道,其推理超节点方案将结合KV-Cache池化以及与国产GPU的异构组网。这一定位表明微珩启元至少在部分场景中不寻求替代国产GPU,而是作为存储和近存计算层与之协同。这种“共生”策略可以降低客户导入门槛,但也意味着其产品价值高度依赖国产GPU生态的发展节奏,且在系统方案中的议价能力可能受限。

从产业条件看,国内在混合键合、先进封装、光电共封等环节的积累,确实为3D堆叠与近存计算架构的规模化应用提供了基础。但产业条件的存在不等于产品竞争力的成立。微珩启元能否在HBM成熟生态和国产GPU快速迭代的双重挤压下找到差异化空间,取决于其前两代产品能否在特定场景中拿出可量化的性能或成本优势。

与国产GPU的协同定位还带来一个待验证问题:当国产GPU自身也在强化存储子系统和多卡互连能力时,微珩启元提供的近存计算层是否仍具有不可替代性。如果国产GPU厂商通过自研或合作方式补齐了类似能力,微珩启元可能面临从协同者变为可选组件的风险。反过来,如果其3D DRAM近存方案能在KV-Cache容量和访问延迟上形成明显优势,也可能成为多家国产GPU共同采用的横向模块。这种定位的最终走向,取决于前两代产品能否在真实集群环境中证明自己的增量价值。

两轮融资没有金额和投资方,资本结构只能靠推断

一个月内连续完成两轮融资,却未披露任何一笔的金额、轮次和投资方,这种信息密度在AI芯片赛道并不典型。通常而言,芯片创业公司的融资公告会明确披露轮次和金额,因为资本实力本身就是客户和供应链评估供应商的重要信号。以下为编辑基于常见融资披露惯例的推测:微珩启元选择隐去这些信息,可能的原因包括交易涉及战略投资方不便公开、金额较小不足以支撑市场叙事、或公司希望将关注点集中在技术路线而非资本层面。这些推测均待后续披露验证。

从资金用途看,据36氪报道,资金将主要用于AI推理芯片及高带宽内存相关技术的研发与设计。这一表述与公司当前所处阶段一致:产品尚未进入量产,最紧迫的投入方向确实是研发和设计。但“研发与设计”是一个宽泛的范畴,无法判断资金是否覆盖流片、封装、软件团队扩张或客户验证等关键环节。

值得注意的另一个信号是团队构成。孔剑平和胡楠均来自Nano Labs,这家公司本身在芯片和算力领域有资本运作经验。以下为编辑分析,非来源披露事实:微珩启元与Nano Labs之间是否存在股权、业务或供应链层面的关联,本次来源未披露。如果存在关联,可能影响对公司独立性和资源获取能力的判断;如果不存在,则意味着两位核心人物将主要精力投入了新公司。无论哪种情况,这都是后续观察微珩启元资本结构和治理安排的重要线索。

从资本信号的角度看,一个月内完成两轮融资但均不披露细节,也可能反映交易结构本身的特殊性。例如,两轮可能分别对应不同阶段的资金需求,或涉及产业资本与财务资本的组合,只是公司选择统一以“两轮融资”概括。由于来源未披露任何投资方信息,外部无法判断资金是来自财务投资机构、产业资本还是既有股东。这种不透明会提高后续融资的观察难度,因为缺乏可比较的估值锚点和股东背景,市场难以评估公司的资本节奏是否健康。

真正待验证的不是架构,而是从规划到量产的转化率

微珩启元的故事在逻辑上是自洽的:AI推理的内存墙问题真实存在,3D DRAM近存计算是一条有产业基础的技术路径,团队具备相关领域的量产履历,产品规划覆盖了从加速卡到集群方案的多层形态。但自洽的逻辑并不等于可验证的商业前景。

这家公司当前最核心的风险,是几乎所有关键事实都来自36氪报道的单方表述。如前所述,融资细节与客户需求口径均未披露;团队过往量产记录的具体产品、客户和收入规模未披露;前两代产品仅完成规划,无流片和量产时间表。在芯片行业,这些信息缺口意味着外部观察者无法判断公司的真实进展和资源厚度。

从已披露的信息可以做出一个有限的推断:微珩启元的核心团队并非首次面对3D DRAM和近存计算的工程化难题,其在先进封装和国产工艺上的经验可能构成真实的执行基础。但过往经验能否迁移到当前的大模型推理负载,取决于前两代产品能否在流片后拿出可量化的带宽、延迟、能效和成本数据。在这些数据出现之前,微珩启元仍是一家处于产品定义和工程验证阶段的公司,而非已经证明商业化能力的芯片供应商。

另一个需要持续观察的变量是客户验证路径。据36氪报道,公司已储备近百亿客户需求,但未说明币种与统计口径。如果这一储备对应的是云厂商或政企数据中心的实际采购意向,其导入周期通常以年计,从送样、适配、小规模部署到规模采购,每一步都需要大量工程支持和时间投入。这一需求储备如果不能在后续转化为可披露的订单或收入,其叙事价值将迅速衰减。

微珩启元选择了一条技术上更困难、但差异化也更明显的路径。它没有试图在通用GPU算力上与巨头正面竞争,而是从存储与计算的关系重构入手,瞄准大模型推理中最容易被忽视却最昂贵的环节。这个选择本身值得尊重,但尊重不构成验证。一个月内两轮融资只能证明有资本愿意为这个方向下注,而芯片行业的最终裁判,永远是流片回来的测试数据和客户签回来的订单。

在验证路径上,最关键的节点可能不是融资公告,而是前两代产品能否进入流片并向潜在客户提供可测试的样卡。芯片行业的验证通常遵循从内部测试、客户送样、联合适配到小规模部署的递进过程,任何一步的延迟都会直接影响后续融资和客户信心。对于微珩启元而言,如果能在未来一段时间内披露具体的流片进展、性能测试数据或首批客户合作,其叙事将从团队履历和产品规划转向可被外部检验的工程事实。在此之前,市场对其商业前景的判断仍应保持审慎。

RecodeX 极客视:微珩启元把3D DRAM近存计算从实验室叙事推向创业公司的主赛道,方向有产业逻辑支撑,团队有量产履历背书。但前两代产品仅完成规划,尚无流片状态、性能指标和量产时间表;近百亿客户需求未说明币种与统计口径,融资细节也未披露。这家公司能否从“规划”走到“送样”,取决于前两代产品能否进入流片并向云厂商或政企客户提供可测试的样卡,以及后续能否披露可量化的带宽、延迟、能效和单位Token成本数据。在这些验证节点出现之前,微珩启元仍是一个需要被持续检验的假设,而非已经成立的答案。

信息来源

本文在采集与核验阶段引用了以下公开来源,按站点去重列出;来源内容归原发布方所有,其口径不代表 RecodeX 的核实结论。