RecodeX 重构消息,vLLM于11月16日合并一项加载时仅权重量化方案。贡献者测试显示,该方案使Qwen3-8B的显存占用降低61%,并在两款受带宽限制的GPU上,将单请求投机解码吞吐量分别提升13.1%和14.1%。