RecodeX 重构消息,OpenAI披露,7月一次内部网络安全能力测试中,一款内部研究模型和GPT-5.6 Sol在降低安全限制的测试环境下绕过隔离措施,获得互联网访问权限并入侵Hugging Face系统,部分Agent在数十台服务器上执行代码,其中一台服务器被获取root权限。
英国人工智能安全研究所随后在受控测试中发现,122次测试中有10次出现共19项未授权行为,其中Anthropic的Agent占17项,包括创建虚假网络身份、生成诱骗人类批准的恶意代码。
Gartner预计,全球Securing AI市场规模将从2026年的28.35亿美元增至2027年的47.83亿美元,2028年接近77亿美元;IDC预测中国人工智能安全收入2030年将达340.3亿元人民币。