RecodeX 重构消息,SemiAnalysis于10月19日发布InferenceX对比表,在Qwen3.5-397B模型、每用户每秒200 token的推理条件下,比较了谷歌TPUv7与英伟达GB300的AI智能体推理成本效率。

同为FP8精度对比时,TPUv7每美元token处理量为GB300的1.85倍(按外部客户总拥有成本计算),按谷歌内部成本口径则为2.17倍。但将TPUv7的FP8与GB300的FP4结果对比,TPUv7相对吞吐量降至外部客户成本口径的0.54倍,优劣关系随之反转。