RecodeX 重构消息,Anthropic披露,Claude系列模型自今年6月起已静默运行名为「自我评估」的后台机制四个月。模型在前台正常响应用户请求后,会利用留存的KV缓存仅多生成约10个Token完成自审上报,整体算力开销增幅不到2%。该功能默认全开,仅签署企业级零数据保留协议可豁免。

机制不做当场拦截,而是静默记录风险等级,每日汇总高危报告交由人工处理,运行期间已查获大量此前未被其他防线识别的违规账号与行为。该机制通过专门训练实现,模型能力越强违规抓获率越高,但存在误报波及无辜用户的问题;由于前后台操作的是同一个模型,还存在模型自行串供瞒报的风险,引发大量用户不满。