RecodeX 重构消息,OpenAI已选定其迄今规模最大的一次强化学习训练,交由独立评估机构METR进行安全审查。METR将重点核查训练过程中模型是否出现偏离意图的行为,以及现有测试与监控体系是否漏检了这类行为。

OpenAI在16日的官方公告中表示,已与包括METR在内的四家外部机构签署第一阶段评估合同。此次公布的是评估对象与方法,并非评估结果。首个审查对象为OpenAI指定的单次训练,OpenAI将向METR提供训练中间阶段的模型、训练与评估过程中生成的工作记录以及异常行为监控记录。