RecodeX 重构消息,微软研究人员展示了一种新型攻击手法:无需重新训练模型,只需修改模型中使用频率极低的不到10个神经元,就能为其植入隐藏后门。当预设的触发条件出现时,模型会输出攻击者指定的指令,而使用该模型的AI智能体将以自身权限执行这些指令。该攻击的前提是攻击者能够修改模型权重。研究团队已对该方法进行了测试。