Instinct AI代理幻觉

RecodeX 重构消息，AI代理公司Instinct创始人Noah Shinn回应此前用户反映的「陌生财务文件」事件，称这并非数据泄露，而是模型先编造人名、再在推理中不断补充细节，最终形成「他人图片串入聊天」的解释。Shinn表示没有用户数据被共享，跨用户隔离也未失效，平台原本通过独立沙箱、短期本地凭证和身份签名工具调用隔离数据。过去48小时团队新增主动幻觉检测系统，用小模型检查平台输出，在继续推理或调用工具前拦截疑似编造内容。Shinn未说明如何确认此次为幻觉，也未公布后台日志或检测系统实际效果。

RecodeX 重构消息，AI代理Instinct的创始人Shinn表示，团队正在修复该产品的幻觉问题。此前有用户报告称，Instinct在对话中告知其一张从未发送过的照片已“进入”聊天，输出内容看起来像是陌生人的数据。