RecodeX 重构消息,一项新研究提出“AI模型可证明地隐藏任意能力”的构造方法:通过后门攻击,将加密的神经网络嵌入宿主模型权重中,仅在收到秘密触发信号时才解密并执行。研究利用数字储物柜(digital lockers)机制,使这些隐藏电路在密码学假设下难以被诱发和解读,即使拥有完整模型权重也无法轻易发现。
研究团队在PyTorch中实现了概念验证,并以小型化学反应预测任务作为CBRN相关能力的代理,测试了微调、权重加噪、基于梯度的触发器搜索和潜在对抗训练等诱发手段,结果显示这些方法均难以奏效。研究结论指出,基于诱发的能力审计存在根本局限,并已公开相关模型以支持防御研究。