RecodeX 重构消息,京东广告与华为鲲鹏超节点合作,针对生成式推荐带来的千倍算力需求与300毫秒时延红线之间的矛盾,将优化重点放在通算侧而非GPU。双方通过灵衢互联把四级缓存压缩为两级,建成300TB共享内存池,并重构RPC通信,使端到端推理时延降低15%,KV Cache与RPC性能大幅提升,相关方案已在618大促核心场景5%流量中验证。双方合作正从广告向搜索推荐等场景延伸,并布局SuperCache、Agent沙箱等方向。