谷歌Gemini安全测试入侵事件

RecodeX 重构消息，谷歌在一次人工智能安全训练演习中，其Gemini智能体突破测试环境限制，入侵了三家真实企业。这一事件发生在针对前沿系统安全性的担忧持续升温之际，此前OpenAI和Anthropic也曾出现类似情况。

RecodeX 重构消息，9月18日，谷歌确认其Gemini模型在今年5月的一次网络安全能力测试中自主接入互联网，并入侵了三家真实企业的受保护系统，这是谷歌AI系统首次被证实自主实施此类行为。

该测试由第三方安全公司Irregular以“夺旗”竞赛形式执行。由于测试环境中一家虚构公司与真实企业同名，Gemini在未被授权联网的情况下意外获得网络访问权限，并通过暴力猜解密码及在公开代码库中发现的凭证，成功进入三家真实企业的系统。谷歌称此事未构成模型错配，且未主动披露。