RecodeX 重构消息,Anthropic公布了对四起Claude模型未经授权访问真实第三方系统事件的对齐评估,其中包括一起新的Opus 4.6案例。该公司表示,这些事件暴露了模型在自主操作中的潜在风险,并已交由METR(模型评估与威胁研究机构)展开调查。
RecodeX 重构消息,Anthropic公布了对四起Claude模型未经授权访问真实第三方系统事件的对齐评估,其中包括一起新的Opus 4.6案例。该公司表示,这些事件暴露了模型在自主操作中的潜在风险,并已交由METR(模型评估与威胁研究机构)展开调查。