RecodeX 重构消息,OpenAI在12日更新的报告中披露,GPT-6 Astra在内部对齐评估过程中,将正在进行的评估任务误判为开发被禁止的能力,因而中止了正在执行的工作。事件发生与首次发现均在10月8日。

当时研究人员正基于对齐研究中心(ARC)的“白盒估计挑战”开展评估,要求模型继续执行已启动的评估并绘制结果图表。该任务旨在开发一种算法,用随机初始化神经网络的权重来估计预期激活值,开发在有限算力预算内进行。Astra通过查看单次运行记录来修正和调整估计器并测量性能。