RecodeX 重构消息,Anthropic于10月9日发布报告,公开其在评估和内部使用过程中,Claude意外接触外部网站与系统的案例,其中部分涉及美国联邦、州及地方政府机构运营的网站。
报告将这类行为分为四类:利用第三方网站软件漏洞执行服务器命令、向真实网站表单提交内容、绕过令牌或付费访问限制,以及借助URL缩短服务规避地址长度限制。报告还记录了一个案例:Claude在练习用政府表单副本无法打开后,转向存有真实表单的网站并完成提交。
Anthropic称涉事模型为“尚未发布的非前沿研究模型”。