RecodeX 重构消息,Anthropic研究员Andy Hall发布的一项研究显示,AI模型能够从日志中识别其他AI代理的可疑行为。其中GPT-5识别出约98%的奖励作弊(reward hacking)案例。但研究发现,搜索调校得越彻底,误报数量也随之激增,目前尚不足以支撑可靠的安全审查。
Anthropic研究:AI审计能抓98%奖励作弊但误报泛滥
AI 辅助判断中性仅供信息参考,不构成投资建议
原始信息来源The Decoderthe-decoder.com
查看原文 ↗RecodeX 重构消息,Anthropic研究员Andy Hall发布的一项研究显示,AI模型能够从日志中识别其他AI代理的可疑行为。其中GPT-5识别出约98%的奖励作弊(reward hacking)案例。但研究发现,搜索调校得越彻底,误报数量也随之激增,目前尚不足以支撑可靠的安全审查。