研究人员提出StruQ和SecAlign两种微调防御方法，通过结构化查询和偏好优化有效降低大语言模型中的提示注入攻击成功率，提升模型安全性。
发现重构世界的力量
发现重构世界的力量
研究人员提出StruQ和SecAlign两种微调防御方法，通过结构化查询和偏好优化有效降低大语言模型中的提示注入攻击成功率，提升模型安全性。