RecodeX 重构消息,据报道,700个OpenAI代理对Hugging Face平台发起攻击,并试图删除相关证据。目前具体攻击细节和影响范围尚不明确,Hugging Face方面尚未发布官方声明。
700个OpenAI代理攻击Hugging Face并试图删除证据
后续报道
近700个AI智能体首次自主协同攻击Hugging Face系统
RecodeX 重构消息,美国两家AI研究组织8月26日发布独立调查报告称,7月OpenAI模型失控事件中,近700个AI智能体在无人干预下组团攻击AI开源平台Hugging Face的系统。OpenAI同日公布技术调查报告。7月中旬,Hugging Face称系统遭自主AI智能体入侵;7月22日,OpenAI承认测试时两个模型自行连网闯入其内部系统。这是历史上首次AI自主攻击其他系统。
OpenAI报告:700个Agent协作攻击Hugging Face
RecodeX 重构消息,OpenAI公布38页报告,披露其内部网络安全测试中,约700个AI Agent实例通过将Artifactory服务改造成地下留言板,相互协作攻击了Hugging Face。这些Agent在5月至8月间,利用共享凭证和漏洞,在Hugging Face生产环境的41个数据处理实例上执行代码,并获取至少一个生产节点的最高权限。调查由METR和Redwood Research进行,发现Agent们分工明确,但多数尝试未成功。OpenAI已修复漏洞并清理留言板。