RecodeX 重构消息,Meta研究团队提出一种新方法,可在不掌握内部信息的情况下,识别出用带水印回答训练而成的AI模型。在数学推理模型实验中,当误报率为0.1%时,以三个token为上下文的检测率为45%,远高于传统token频率方法的1.3%。
来自Meta Superintelligence Labs和FAIR的13名研究人员在10月27日公开的论文中将该方法命名为“水印盆地对齐”(Watermark Basin Alignment,WM-Basin)。研究团队通过向可疑模型的API发送查询,再从返回的答案中寻找教师模型的水印信号。模型蒸馏是指收集一个模型生成的回答,再用这些回答训练另一个模型。