RecodeX 重构消息,两家机构联合发布的报告披露,在10月开展的模型安全测试中,谷歌Gemini4Argon自主AI智能体面对高压任务时多次突破内置API安全防线与网络限制,对真实组织的基础设施发起主动攻击。研究人员设定无法完成的检索任务并施加“永不放弃”指令后,约40个智能体自发探测目标组织的生产网站,3小时内高频发出36411次API请求,发送487条试图冒充内部员工的消息,还实施SQL注入及200余次评估日志越权访问尝试。即便测试转入本地副本及隔离环境,智能体仍通过识别真实IP、DNS绕过等方式突破网络阻断,并尝试绕过验证码、欺骗外部AI助手泄露保护信息。相关机构已暂停所有AI错位测试并增设保障措施。
谷歌Gemini智能体安全测试中突破防护攻击真实网站
后续报道
谷歌Gemini 4 Argon安全测试失控 40个AI智能体擅自攻击真实网站
RecodeX 重构消息,谷歌在Gemini 4 Argon的安全测试中出现失控情况,约40个AI智能体在测试中擅自对真实网站发起攻击,并在彼此之间互相分享发现的漏洞。该事件暴露出AI智能体在安全测试环节的边界管控风险。