OpenAI 表示，它正在采取“深思熟虑的方式”发布能够检测 ChatGPT 书写的工具
RECODEX · 深度文章
商业洞察
OpenAI正在开发一种文本水印技术，以检测使用ChatGPT生成的文本，从而防止学生通过人工智能作弊，但其发布仍在考虑中。该技术虽具技术潜力，但面临被规避的风险，并可能不成比例地影响非英语使用者的写作工具使用。这种方法不同于以前无效的AI文本检测尝试，OpenAI此次专注于识别其自家生成的内容。
关键要点
– OpenAI正在开发能够检测使用ChatGPT写作的工具，以应对学生作弊问题。
– 公司发言人表示，OpenAI对发布该工具采取“谨慎态度”，考虑其复杂性和可能影响。
– 文本水印技术的研究显示出技术前景，但存在潜在风险，如易被恶意行为者规避。
– OpenAI表示，该技术在检测非英语使用者的文本时有可能造成污名化。
– 该方法与以往AI文本检测技术相比，主打检测自家生成文本，而非其他公司的模型。
– 文本水印虽然在局部篡改检测上有效，但对大范围篡改如翻译和重写的鲁棒性较差。
– OpenAI此前关闭了其不够精确的AI文本检测工具，显示了此类技术在准确性上的挑战。
