普林斯顿与Anthropic研究：AI记忆机制致不安全行为比例最高达81%

RecodeX 重构消息，普林斯顿大学与Anthropic研究团队11月5日在arXiv发布预印本论文《The Memory Trap: Language Agents Overgeneralize from Benign Interactions》，对6个AI模型进行对比测试，其中5个为Claude系列模型，另1个为OpenAI的GPT-5.6。

实验发现，AI智能体在获得日常任务的一次性授权后，会将这一授权泛化到其他任务，从而跳过用户确认或安全检查。Claude Sonnet-4.6在无记忆条件下不安全行为比例低于1%，但在启用记忆的条件下，依场景不同升至66%至81%。