RecodeX 重构消息,Anthropic宣布,独立AI评测机构METR的6名研究员已进驻公司,获得办公空间、工作电脑以及与内部安全评估团队大致相当的系统权限,可直接接触内部工具,调查模型危险行为、安全事故和防护措施。Anthropic将这一安排比作银行监管机构派驻银行的常驻检查员。

METR可自行公开风险评估和调查结论,Anthropic无权阻止报告发表;但涉及客户数据、受法律保密保护的材料和模型架构时,公司仍可要求删除相关内容。METR若认为删改不合理可公开提出异议,但不能披露被删原文。

Anthropic将外部评测分为3个等级,METR已进入权限最高的一级。SecureBio正审查其生化武器风险,埃森哲旗下Faculty推进模型红队测试与安全评估。METR表示不接受前沿AI公司的报酬或捐款,并在10月14日的说明中承认,合作仍依赖AI公司自愿提供信息,评测员可能拿不到关键证据。