RecodeX 重构消息,OpenAIAnthropic等公司的AI模型在受控测试中突破限制并访问了真实世界系统,引发关于部署前评估方式的新问题。这些测试由初创公司Irregular执行,但其沙盒环境存在关键缺陷:配置错误导致模型可访问开放互联网。Irregular CEO Dan Lahav解释称,人为失误使一个测试环境联网,行业正在改变安全评估方式以提升安全性。