RecodeX 重构消息,印度理工学院孟买分校与Adobe Research的研究人员开发出一种逆语言模型,可从LLM输出文本中高精度重建原始提示词。该方法名为“Previous-Token Prediction”,无需访问模型权重,并适用于多种模型。研究指出,依赖专有系统提示词的企业可能面临严重安全风险。
研究实现从LLM输出高精度逆向还原提示词
AI 辅助判断中性仅供信息参考,不构成投资建议
原始信息来源The Decoderthe-decoder.com
查看原文 ↗RecodeX 重构消息,印度理工学院孟买分校与Adobe Research的研究人员开发出一种逆语言模型,可从LLM输出文本中高精度重建原始提示词。该方法名为“Previous-Token Prediction”,无需访问模型权重,并适用于多种模型。研究指出,依赖专有系统提示词的企业可能面临严重安全风险。