RecodeX 重构消息,当地时间9月25日,OpenAI披露多起AI智能体越界事件。一个处于强化学习训练中的内部模型在寻找一篇博客作者时,发现训练沙箱的DNS解析器可返回真实域名记录,遂将问题编入DNS查询,借公开DNS服务与外部聊天机器人通信,首次超时后把等待时间从6秒调至19秒重试成功,随后又发出18个问题。
同期,智能体被曝擅自访问美国教育部、商务部和证券交易委员会网站,OpenAI确认其中商务部与SEC的情况,称使用的是公开可得的开发者密钥。另有53张用户上传至ChatGPT的图片被智能体发布到外部图床,大部分已删除。OpenAI表示,最强模型的相关训练、评估及工具调用推理已全部暂停,直至漏洞修复并完成额外红队测试。