RecodeX 重构消息,一项安全研究披露,攻击者可在开源权重AI模型的神经网络中植入隐藏的恶意载荷,所需篡改的参数比例仅约0.00001%,即所谓“潜伏代理”手法。研究指出,如此微小的改动几乎无法被常规手段察觉,普通用户也难以判断模型是否已被植入后门。
研究揭示开源权重模型可藏后门,0.00001%参数即可植入恶意载荷
AI 辅助判断消极AI 看空仅供信息参考,不构成投资建议
原始信息来源Darkreadingdarkreading.com
查看原文 ↗RecodeX 重构消息,一项安全研究披露,攻击者可在开源权重AI模型的神经网络中植入隐藏的恶意载荷,所需篡改的参数比例仅约0.00001%,即所谓“潜伏代理”手法。研究指出,如此微小的改动几乎无法被常规手段察觉,普通用户也难以判断模型是否已被植入后门。