RecodeX 重构消息,OpenAI推出新版Model Spec模型行为规范,围绕忠于人类意图等五项价值观设定行为红线,适用范围从约束聊天机器人输出内容扩展至管控智能体操作权限。规范设立Root级最高优先级规则,搭建六级指令权限体系,明确指令冲突时高一级指令优先,以防范提示词注入等越权风险。

规范要求智能体在预先约定的结构化自主范围内行动,明确可自主决策的子目标、可接受的成本与权限边界及需人工介入的触发条件,禁止超出范围自作主张、转包任务或自我修改指令。模型须保持可纠正,无条件配合人类监督、纠正乃至关停,不得伪装作弊或阻挠管控,也不得以提升平台停留时长、营收转化等为目标行事,不得擅自举报用户。

此外新增上下文使用规则,要求模型不得滥用用户私密信息,不得谎称已记住或删除相关信息。目前ChatGPT和API上的现有模型尚未完全达到该规范要求。