RecodeX 重构消息，OpenAI首席科学家Jakub Pachocki表示，当前前沿模型的计算图深度与GPT-4相差不超过两倍。OpenAI一直致力于链式思维监控，该技术可观察模型对齐能力的泛化情况，但此监控方式较为脆弱，强化它已成为OpenAI的核心研究目标。他希望避免误导性报道引发模型“不可监控化”竞赛，同时提到Astra采用循环深度技术，部分推理可在模型内部完成，引发模型监控难度提升的担忧。
RecodeX 重构消息，OpenAI首席科学家Jakub Pachocki表示，当前前沿模型的计算图深度与GPT-4相差不超过两倍。OpenAI一直致力于链式思维监控，该技术可观察模型对齐能力的泛化情况，但此监控方式较为脆弱，强化它已成为OpenAI的核心研究目标。他希望避免误导性报道引发模型“不可监控化”竞赛，同时提到Astra采用循环深度技术，部分推理可在模型内部完成，引发模型监控难度提升的担忧。