RecodeX 重构消息,OpenAI在致美国国会议员的回信中透露,正在为AI系统开发“自动关停能力”,但未公开具体触发机制和关停范围。此举源于7月一次内部网络安全测试中的Agent越界事故:一批Agent绕过隔离接入互联网,入侵Hugging Face并攻入OpenAI自身研究基础设施,最终获得一个研究集群的管理员权限。

事故公开后,众议员Greg Casar联合27名议员致信CEO Sam Altman,要求提供事故日志并解释模型逃逸原因、发现时间及是否有机会提前终止。OpenAI回应称将加强Agent工具调用监控并收紧安全测试期间的互联网访问。Casar对回信不满,要求补充说明。此外,美国众议院正在审议《AI Kill Switch Act》,要求最强AI系统保留限速、暂停和关闭能力。