RecodeX 重构消息,Perplexity与英伟达联合提出新的自蒸馏训练方法JOLT,将“教师”角色也纳入训练:教师利用额外信息独立解题并按最终结果获得奖励,同时用KL散度约束教师与学生的输出差异,避免指导偏离学生当前能力;学生仍沿自身解题过程逐Token接受教师反馈,两种角色共享参数。
在Qwen3-0.6B的MATH测试中,JOLT准确率达72.14%,高于此前自蒸馏方法OPSD的61.20%和强化学习GRPO的68.36%。达到63.44%准确率时,GRPO实测消耗约840万训练Token,JOLT按训练曲线估算仅需130万,相差约6.5倍。
但在AppWorld智能体任务上,未给学生加入结果奖励的JOLT仅51.92%,低于GRPO的62.20%;加入学生最终任务奖励后,JOLT+提升至72.09%。