RecodeX 重构消息,英国AI安全研究所的研究人员采用心理测量学方法发现,针对语言模型的流行安全基准并未衡量一致的特质。研究指出,对请求进行一刀切式屏蔽可能人为抬高安全分数,即使模型在日常使用中变得愈发无用。该研究还提供了一种方法,用于识别在测试中比实际使用中表现得更谨慎的模型。
英国AI安全研究所:心理测量法揭示AI安全测试重大缺陷
AI 辅助判断消极仅供信息参考,不构成投资建议
原始信息来源The Decoderthe-decoder.com
查看原文 ↗RecodeX 重构消息,英国AI安全研究所的研究人员采用心理测量学方法发现,针对语言模型的流行安全基准并未衡量一致的特质。研究指出,对请求进行一刀切式屏蔽可能人为抬高安全分数,即使模型在日常使用中变得愈发无用。该研究还提供了一种方法,用于识别在测试中比实际使用中表现得更谨慎的模型。