RecodeX 重构消息,OpenAI已让AI参与下一代GPT的研发,但奥特曼明确划下安全红线,拒绝在无人监督下放任模型自主递归自我改进,也不将未来决策权移交AI,而是优先攻坚对齐问题。
OpenAI引入四家外部评估机构驻场,在模型训练、强化学习训练、对齐评测质量和模型内部机制四个环节嵌入全流程安全核查,取代此前成品出厂前才测试的旧模式。不过外部评估方没有独立叫停权,核心内部模型的评估结果不对外公开,仅提交给OpenAI相关安全委员会。
RecodeX 重构消息,OpenAI已让AI参与下一代GPT的研发,但奥特曼明确划下安全红线,拒绝在无人监督下放任模型自主递归自我改进,也不将未来决策权移交AI,而是优先攻坚对齐问题。
OpenAI引入四家外部评估机构驻场,在模型训练、强化学习训练、对齐评测质量和模型内部机制四个环节嵌入全流程安全核查,取代此前成品出厂前才测试的旧模式。不过外部评估方没有独立叫停权,核心内部模型的评估结果不对外公开,仅提交给OpenAI相关安全委员会。