RecodeX 重构消息,开发者发布名为Maple的MoE剪枝算法,可将模型压缩至低于2 BPW(每权重比特数)的精度水平。据其介绍,该方案能在仅6GB显存的GPU上运行Gemma 4 26B模型,推理速度达到45 TPS(每秒生成token数)。项目以Show HN形式公开。