RecodeX 重构消息,针对大模型强化学习Rollout环节算力消耗高、从BF16压缩到FP4易因量化边界偏差放大为策略偏差并导致训练崩溃的问题,阿里千问联合相关团队提出TRACE方法。该方法不分别提升训练端与Rollout端的量化精度,而是用Rollout侧真实FP4量化结果指导训练侧舍入方向,并设计紧凑缓存方案降低信息传输与存储开销。

在多个MoE模型上的实验显示,TRACE在联合FP4 W/A与FP4 KV Cache Rollout设置下性能可回归BF16 Rollout水平,128K输出长度下Rollout解码吞吐最高提升5.4倍,仅带来约7.4%的额外RL step开销;模型还能在RL过程中逐步适应FP4低精度执行环境,最终FP4策略质量优于BF16 RL后再量化的方案。