原文:Beyond The GPU: Second Order Thinking In AI Infrastructure

作者:Rob May

来源:SandHill.io #307 推荐阅读 · 投资主题与论点 | RecodeX 编译

导读: “AI 需要海量算力”已是人尽皆知的共识,而共识只能带来平均回报。Rob May 借用 Howard Marks 的“二阶思维”框架提出:未来十年最持久、利润率最高的 AI 机会,可能不在基础模型或 GPU 本身,而在让 GPU 持续运转所必需的物理与数字基础设施上——电力、散热、光互连与边缘推理。他还进一步追问“三阶问题”:当电力和散热也被解决后,瓶颈会转移到哪里?

汽车造就了郊区,手机造就了 Uber

一阶思维是“AI 在增长,所以买 AI 芯片股”;二阶思维则追问:数百万颗 AI 芯片部署之后,什么会崩、什么需要适配、什么会变得不可或缺?

作者用两段历史说明:1920 年代,显而易见的汽车交易是福特、通用和轮胎厂,但更大的经济故事是汽车普及所带来的州际公路、郊区地产繁荣、汽车旅馆和得来速快餐——看着 T 型车的人不会去承销麦当劳。2007 年移动互联网的一阶赢家是苹果和铁塔公司,但“始终在线 + GPS”才让 Uber(2009)和 Instagram(2010)成为可能,瓶颈也悄然转移到云存储与移动数据网络。规律是:一阶赢家卖新东西,二阶赢家卖新东西离不开的东西。

一阶交易已经拥挤

芯片与模型层(Nvidia、台积电、OpenAI、Anthropic、微软、AWS)都是顶级生意,但市场早已定价;当预期是完美时,你需要完美才能打平。

与此同时,超大规模云厂商买 GPU 的速度快过能插上电的速度。作者此前测算,到 2028 年 8 月约有 120 GW 新数据中心容量计划交付,而历史上只有约一半能按时落地——原因不是钱或芯片,而是变压器、燃气轮机,以及长达 24–48 个月的电网并网排队。作者称之为“约束迁移”:缓解一个瓶颈,经济价值就会转移到下一个跟不上的环节——约束不会消失,只会搬家。

部署百万 GPU 时会崩坏的四件事

  1. 千兆瓦瓶颈:AI 数据中心单机柜功耗远高于传统云设施,电网并非为此而建,迫使业界争抢小型模块化核电、天然气、地热等定制化电源,并大规模升级高压输电、变压器和开关设备。Flex CEO 在财报会上直言,AI 正日益成为一个“电力故事”。
  2. 散热之墙:下一代 GPU 机柜的发热量超出风扇和空调的能力,推动直接芯片液冷和浸没式冷却;未来的数据中心更像流体力学设施。液冷只是把热量移出机柜,问题会延续到楼顶和供水端。
  3. 光速限制:数据没到位,昂贵的 GPU 就只能空等。把 10 万颗以上 GPU 连成一台超算,需要先进光模块、硅光子以及前所未有规模的 InfiniBand/以太网交换——在这个尺度上,网络就是计算机。
  4. 边缘迁移:这是多数基础设施多头忽略的一点。并非每个请求都该送到千兆瓦园区,延迟、带宽和成本会把越来越多推理推向手机、PC、汽车和工业设备中的高效芯片,小模型让这成为可能。对基础设施投资者而言,边缘是一股“反向力量”:这部分需求根本不经过数据中心。

“无聊的”牛市

作者最感兴趣的是:传统工业和类公用事业公司正在成为隐形的 AI 标的,几十年来低估值的沉闷企业突然站在了这一代最重要技术建设的关键路径上。值得关注的三个板块:

  • 暖通与工业冷却:为老数据中心做液冷改造、建设排热系统的公司;
  • 电力与铀:能源生产商、电网设备商(变压器、开关柜)和铀矿商;
  • 光纤与光学器件:光子学和高速互连的细分制造商。

一级与二级市场打法不同:风投更适合押注材料与物理层面的突破(新一代冷却液与换热器、SMR 与核聚变、光子学创业公司),周期长、资本密集,但可能彻底重置某个约束;公开市场则往往相反,标的是订单簿突然变得具有战略意义的成熟电气设备商。

二阶交易也会被定价

作者也承认,二阶思维已不是秘密,“电力 + 散热”交易正迅速成为新的共识。真正的优势在于问第三个问题:电力和散热解决后,约束去哪儿?他的判断是利用率与编排——让昂贵的 GPU 集群真正忙起来,而不是贵且闲着。软件将借此重新回到基础设施故事中,而这几乎还没有人定价。

第二幕

AI 革命的第一幕写在硅和代码上,第二幕将写在铜、水、光纤和铀上。作者给出评估任何 AI 基础设施公司的三个问题:今天的硬约束是什么?这家公司是否掌握它?它是否为下一个约束做好了准备?至少答不出两个“是”的公司,只是在搭繁荣的顺风车,而非捕获价值。用作者的一句话收尾:“人人都盯着芯片,不如盯着芯片离不开的东西。”

注:原文为图文无配图的纯文字文章;开头还包含作者的个人项目推广(著作、Taskrouter、AI in NYC 播客),此处从略。


本文由 RecodeX 编译自 Beyond The GPU: Second Order Thinking In AI Infrastructure(作者:Rob May),首发于 SandHill.io #307 推荐阅读。本文为中文编译稿,非全文翻译,完整内容请阅读原文。译文仅供学习交流,观点不代表本站立场,版权归原作者所有。