RecodeX 重构消息,前沿模型论坛(FMF)发布《AI网络越狱风险评估方案》1.0版,按风险程度将网络越狱手法划分为五个等级,评估对象为在特定前沿模型特定版本上可复现地绕过安全防护的个别案例,既包括单次提示,也包括多轮对话流程和借助自动化工具的方式。

FMF表示,该方案旨在为开发企业、安全研究者和政策部门提供共同基准,便于比较越狱案例并讨论应对优先级;仅凭绕过安全防护这一事实,并不能认定所有案例风险相同。该方案公开征求意见至12月21日。