RecodeX 重构消息,英伟达Vera Rubin平台在推理测试中,单用户输出速度约为每秒190个token,按每兆瓦GPU与内存功耗计算的总吞吐量达到GB300的5.7倍。该对比基于四块GB300 GPU的配置。

上述数据仅覆盖推理场景,英伟达此前宣称的75%训练性能提升尚未得到验证。