RecodeX 重构消息,vLLM测试报告显示,在四块GB300上启用合并后的可选FlashInfer路径后,Step5吞吐量提升13%,在约96K输入、并发32的条件下达到每秒147.04个token。另一项16万token、批大小为1的测试中,首token时间为5.438秒。