RecodeX 重构消息,OpenAI宣布将采用更严格的系统监控和防护正在开发的人工智能模型,以应对近期网络安全事件引发的AI工具失控担忧。该公司计划追踪其能力最强、尚未发布的模型在解决问题及使用在线工具时的行为,目标是在发现异常行为后30分钟内向安全团队发出警报。此外,OpenAI新增控制措施,防止部分AI模型连接互联网执行高风险任务,并要求在训练和评估时实施更严格的“沙箱”隔离。在Hugging Face事件后,OpenAI暂停了研究集群中前沿模型的推理任务,放缓扩展速度,包括将最新部署模型的强化学习训练暂停两周,规模最大的前沿强化学习训练计划仍处于暂停状态,以待安全验证完成。
OpenAI强化前沿模型安全监控与沙箱隔离
AI 辅助判断消极仅供信息参考,不构成投资建议
原始信息来源脚本之家jb51.net
查看原文 ↗