RecodeX 重构消息,微软研究人员展示了一种新型攻击手法:无需重新训练模型,只需修改模型中使用频率极低的不到10个神经元,就能为其植入隐藏后门。当预设的触发条件出现时,模型会输出攻击者指定的指令,而使用该模型的AI智能体将以自身权限执行这些指令。该攻击的前提是攻击者能够修改模型权重。研究团队已对该方法进行了测试。
微软研究:编辑不足10个神经元即可为AI智能体植入后门
更多报道Upstract ↗
AI 辅助判断消极仅供信息参考,不构成投资建议
原始信息来源Feedburnerthehackernews.com
查看原文