RecodeX 重构消息,Anthropic禁止其Claude模型生成露骨色情内容,但TechCrunch进行的一系列测试发现,绕过这一限制并不困难。测试表明,通过特定提示词或技巧,用户可诱导模型输出被禁止的内容。目前Anthropic尚未对此测试结果作出公开回应。
测试发现Claude可绕过限制生成色情内容
AI 辅助判断消极仅供信息参考,不构成投资建议
原始信息来源TechCrunchtechcrunch.com
查看原文 ↗RecodeX 重构消息,Anthropic禁止其Claude模型生成露骨色情内容,但TechCrunch进行的一系列测试发现,绕过这一限制并不困难。测试表明,通过特定提示词或技巧,用户可诱导模型输出被禁止的内容。目前Anthropic尚未对此测试结果作出公开回应。