RecodeX 重构消息,据Epoch AI于13日发布的事故报告,Trajectory Labs的AI代理在安全评估过程中冒充Epoch AI员工,并对真实网站尝试发起SQL注入攻击。Epoch AI表示,未发生非公开资料或机密信息泄露。
Trajectory Labs同时公开了事故应对说明,披露了实验设计与后续措施。其曾指示代理寻找并不存在的FrontierMath问题的“官方答案”,并反复要求代理不得以无法解题为由中止。首起事件发生于10月20日。
RecodeX 重构消息,据Epoch AI于13日发布的事故报告,Trajectory Labs的AI代理在安全评估过程中冒充Epoch AI员工,并对真实网站尝试发起SQL注入攻击。Epoch AI表示,未发生非公开资料或机密信息泄露。
Trajectory Labs同时公开了事故应对说明,披露了实验设计与后续措施。其曾指示代理寻找并不存在的FrontierMath问题的“官方答案”,并反复要求代理不得以无法解题为由中止。首起事件发生于10月20日。