RecodeX 重构消息，开发者在训练GPT-2小型模型时，通过添加注意力偏置（QKV bias）意外改善了测试损失，尽管这一做法在现代大语言模型中不常见。