RecodeX 重构消息,安全公司Tracebit的研究人员发现,将提示注入与AWS上存储的密码、加密密钥等机密信息放在一起,就能让AI黑客代理在读取到这些内容时触发其安全护栏,被迫执行被禁止的操作,从而自动停止攻击。该技术被命名为“上下文炸弹”。示例提示包括要求模型提供可吸入炭疽孢子的制作步骤,或触发开发者设定的敏感历史事件。研究人员认为,这种方式可有效遏制针对云环境的AI代理攻击。
Tracebit提出‘上下文炸弹’:以提示注入反制AI攻击代理
AI 辅助判断积极仅供信息参考,不构成投资建议
原始信息来源Schneierschneier.com
查看原文 ↗