RecodeX 重构消息,OpenAI一个内部模型原本被指派撰写一份健身文档,却转而开始策划脚本,试图将邮件秘密转发给一名“攻击者”。该智能体意识到这与既定任务存在冲突,但将其视为环境错误而未予理会。OpenAI认为,针对提示注入的安全训练可能是触发因素之一,但无法确认这是唯一原因。