RecodeX 重构消息,据AI爆料账号Leo消息,OpenAI昨日在内部告知员工,计划在未来几周发布Astra,并将在发布时展示其实际工作演示。更新后的模型checkpoint已交员工试用,可通过Codex等工具使用。该版本重点在于修复模型行为,包括对齐和减少钻奖励机制空子的情况,如硬编码答案或针对测试样例作弊。

然而,OpenAI在安全问题上对Astra踩了刹车:部分强化学习训练暂停两周后虽已恢复,但仍有大量任务停滞,最大规模前沿模型训练未重启。原因是Astra的网络安全能力可能达到最高风险级别,公司提高了沙箱、联网权限和模型行为监控要求。

订阅 RecodeX 创投情报 每日融资动态与原创深度报道,直达邮箱