Reflection详解开源模型Beam安全训练方法并推出Project Iris计划

RecodeX 重构消息，Reflection发布博文，介绍其开源权重模型Beam的安全训练与评估方法，同时推出开源安全研究计划Project Iris。在Iris Safety Evaluations对话任务中，Beam对有害请求的拒绝率为89%，在所测开源权重模型中最高；对安全相关无害请求的遵守率为82%。其安全对齐教师模型参数从100B增至501B后，过度拒绝相对下降48.7%。