RecodeX 重构消息，谷歌供应链基础设施高级总监Nikhil Cherian透露，AI行业已从算力受限转向内存受限，高性能内存目前占单台AI服务器物料成本的约75%。为突破瓶颈，谷歌在硬件层面建立内部回收供应链，拆解退役服务器回收可用的DDR4内存模块，并专门设计硬件转接器，使上一代DDR4内存能连接新一代AI服务器。软件层面，谷歌持续优化底层函数库、模型架构和KV Cache压缩技术，以降低单位算力的内存消耗。