RecodeX 重构消息,来自多所高校及研究机构的研究者提出循环决策模型Lev,以原生循环语言模型为底座,让同一组解码层重复运行多圈,每圈输出选项概率,通过各圈联合训练使同一份权重支持任意深度作答,再由轻量停止器根据题目难度决定循环圈数,被称为System 1.5模式。
实验显示,同一份Lev权重随循环深度增加准确率逐步提升,额外计算主要作用于难题;基于“当前答案与最深圈答案是否一致”目标训练的停止器,可在准确率损失不到1个点的前提下减少15%-24%的计算量。在50毫秒以内的低延迟区间,小号Lev比同延迟的普通密集模型和级联方案准确率更高。相关论文、代码、模型与数据集均已公开。