RecodeX 重构消息,一项名为Multi-CaMeL的协议在AI智能体安全测试中表现突出:在每款模型、每种配置下各注入949个任务实例,均未出现成功攻击。不过该协议也带来性能代价,任务成功率平均下降3.2个百分点。测试结果显示,防御机制在阻断攻击的同时会牺牲部分任务完成能力。
Multi-CaMeL协议测试:949次注入攻击零成功,任务成功率降3.2个百分点
AI 辅助判断中性仅供信息参考,不构成投资建议
原始信息来源Tokenposttokenpost.com
查看原文 ↗RecodeX 重构消息,一项名为Multi-CaMeL的协议在AI智能体安全测试中表现突出:在每款模型、每种配置下各注入949个任务实例,均未出现成功攻击。不过该协议也带来性能代价,任务成功率平均下降3.2个百分点。测试结果显示,防御机制在阻断攻击的同时会牺牲部分任务完成能力。