RecodeX 重构消息,安全公司Xint披露,OpenAI的对话压缩功能(compaction)可被利用,将模型隐藏的推理内容以明文形式复制出来。该功能原本用于压缩长对话以节省空间。OpenAI推理模型在作答前会先进行思考,服务通常只以用户无法读取的加密条目形式返回原始推理内容。Xint演示的方法绕过了这一保护机制。
安全公司Xint演示利用OpenAI压缩功能窃取模型隐藏推理内容
AI 辅助判断消极仅供信息参考,不构成投资建议
原始信息来源Feedburnerthehackernews.com
查看原文 ↗