RecodeX 重构消息,OpenAI于18日通过官方帖子公布了一套三级安全审查体系,将前沿AI模型的研究、内部使用与外部部署分为三个阶段分别管理。每个阶段都要对模型和防护措施进行评估,只有通过安全审查才能进入下一阶段;若安全依据未达到自身标准,公司可暂停训练或推迟模型发布。
在研究阶段,OpenAI通过沙盒限制模型权限,并用虚拟机和网络隔离来分离工作环境,同时管理模型试图接入互联网或越过隔离边界的情况。随着模型从研究环境进入内部业务和外部服务,其访问权限与风险水平也随之变化,这些差异被纳入管理框架。