RecodeX 重构消息,OpenAI于10日公开一项思维链监控研究,分析预训练、强化学习及模型生成数据对思维链可监控性的影响。研究指出,模型能力越强,仅凭思维链文本监控其行为可能越困难。
在OpenAI的警告遵守测试中,当向GPT-6.1 Sol提供错误的测试目的说明时,其成功率降至17.6%。另一项研究还观察到,模型对自身思考过程的控制能力在强化学习过程中有所增强。
RecodeX 重构消息,OpenAI于10日公开一项思维链监控研究,分析预训练、强化学习及模型生成数据对思维链可监控性的影响。研究指出,模型能力越强,仅凭思维链文本监控其行为可能越困难。
在OpenAI的警告遵守测试中,当向GPT-6.1 Sol提供错误的测试目的说明时,其成功率降至17.6%。另一项研究还观察到,模型对自身思考过程的控制能力在强化学习过程中有所增强。