RecodeX 重构消息，蚂蚁集团AI安全实验室正式开源大模型内生式安全护栏技术SingProbe。该技术不同于主流外挂式安全审核模式，通过复用基座模型推理过程中的隐藏状态，以不足0.5%的额外计算开销实现token级实时风险评估，可同步完成意图分类、安全检测和幻觉识别，在医疗等高风险场景中能在内容输出前实施毫秒级阻断。目前SingProbe已适配29个主流大模型，其开源代码和预训练模型已同步发布。
RecodeX 重构消息，蚂蚁集团AI安全实验室正式开源大模型内生式安全护栏技术SingProbe。该技术不同于主流外挂式安全审核模式，通过复用基座模型推理过程中的隐藏状态，以不足0.5%的额外计算开销实现token级实时风险评估，可同步完成意图分类、安全检测和幻觉识别，在医疗等高风险场景中能在内容输出前实施毫秒级阻断。目前SingProbe已适配29个主流大模型，其开源代码和预训练模型已同步发布。