RecodeX 重构消息，英伟达在技术博客中公布自测结果：在单台DGX Spark上同时应用三项Ling-3.0-flash推理优化后，GSM8K的1319道数学题测试中吞吐量提升42.5%，每秒生成token数从37.81个增至53.89个，平均响应延迟从15.21秒降至11.49秒。测试采用批大小为1的逐条请求处理方式。
Ling-3.0-flash为混合专家（MoE）模型，总参数1240亿个，每生成一个token激活51亿个参数。第一项优化是将MoE运算后端由flashinfer_mxfp4替换为Humming。