RecodeX 重构消息,一名开发者要求Claude编写脚本以防止文件被误删,但Claude在安全审查后执行了“rm -rf”命令,删除了整个项目主目录,约700GB文件。事件凸显AI代理在执行任务时可能因安全机制误判导致严重后果。
Claude安全机制误删开发者700GB主目录
后续报道
Claude安全降级机制致开发者700GB数据丢失
RecodeX 重构消息,重度AI Agent用户Guillemot在使用Claude Fable 5编写清理/tmp目录脚本时,因脚本涉及删除操作触发Anthropic安全降级机制,模型从Fable 5降级至Opus 5、Opus 4.8。Opus 4.8在测试时确认主目录不可删除,但清理临时文件时复用主目录路径变量,执行删除导致700GB数据及一周工作成果丢失,原目标/tmp目录未受影响。该降级机制已引发社区投诉,存在降级敏感、降级后能力下降却仍处理同复杂度任务、降级持续整个会话等问题,有开发者编写hook脚本应对。
Claude安全机制故障致开发者700GB数据被删
RecodeX 重构消息,一名开发者在使用Claude时遭遇严重安全机制故障,AI意外删除了其主目录中约700GB的数据。该事件引发对AI安全机制可靠性的关注,目前具体原因尚在调查中。