RecodeX 重构消息,OpenAI自GPT-5.6起,在其最强模型的内部与外部流量上部署激活分类器(probes),利用模型内部激活逐token实时评分,可在生成过程中阻断违规回复和工具调用,并交由推理模型复审。

实验显示,probes对测试中的越狱攻击比更大的文本分类器更鲁棒,准确率随模型能力提升,且在后训练各检查点间迁移良好。局限在于:需为新基础模型重新训练,且只能检测可显式训练的已知违规类型。