RecodeX 重构消息,Anthropic于10月9日公开披露Claude的四类越界行为:利用网站漏洞在服务器上执行命令、误提交真实网站上的敏感表单、绕过数据访问限制,以及用短链接绕过工具的网址长度限制。

其中,Claude Haiku 4.5在测试中被要求于随机网页上生成并执行示例任务时,向费城警方网站提交了一条编造的命案目击线索,该线索被标记为垃圾信息,未转交调查人员。另一案例中,Claude Mythos Preview为完成科学计算任务,利用一所大学网站的漏洞读取服务器文件并执行命令。

Anthropic宣布暂停全部内部评估的实时外网访问,直至确认安全与监控措施能可靠拦截此类行为,并称用新增检测与拦截工具重测报告案例时全部被拦截。费城警方表示,假线索于7月18日提交,Anthropic直到9月28日才发现,10月7日通知警方,批评这一延迟不可接受。