OpenAI 不会给 ChatGPT 文本添加水印,因为其用户可能会被抓住
OpenAI已经开发了水印系统和相应的检测工具,以识别ChatGPT生成的文本,但公司内部对是否发布这一技术存在分歧。虽然水印技术能够在不影响文本质量的情况下有效识别AI生成内容,且用户对此持支持态度,但OpenAI担心这可能会导致用户使用频率下降。此外,部分员工提议探索其他可能更不具争议性的水印方法。
关键点
- OpenAI已准备了水印技术和检测工具大约一年,内部看法分歧。
- 水印系统通过调整模型预测词语的方式来生成可检测的模式。
- 水印可以帮助教师防止学生使用AI生成作业,受到全球用户的支持。
- OpenAI最近确认其水印技术有效性达到99.9%,且抗篡改。
- 尽管水印有效,近30%的用户表示会因其实施而减少使用ChatGPT。
- 公司正在探索嵌入元数据的方法,认为尚处于早期阶段,无法确定效果。
- 支持对水印的看法与用户的担心之间存在内部意见分歧,一些员工建议尝试其他不太具有争议的方法。
Via:https://www.theverge.com/2024/8/4/24213268/openai-chatgpt-text-watermark-cheat-detection-tool