色情生成器、作弊工具和“专家”医疗建议：OpenAI 定制聊天机器人市场内部

OpenAI推出的定制聊天机器人市场吸引了多种开发者，但许多GPT模型似乎违反了公司的政策，提供了AI生成的色情内容、作弊工具和医疗建议。尽管OpenAI声称有检测机制，但依然有大量被禁内容在市场上流通且被广泛使用。这一现象引发了对内容审核和技术应用的广泛讨论，表明在保护用户和维护社区标准方面面临巨大挑战。

关键点
– OpenAI在其市场上推出定制聊天机器人，鼓励社区进行创新。
– 许多开发者利用这一平台发布违反政策的GPT模型，包括生成色情内容和提供作弊工具。
– 虽然某些违规内容被移除，但很多仍然紧随其后并受到广泛使用。
– OpenAI的市场上存在大量提供医疗和法律建议的聊天机器人，部分模型甚至误导用户认为它们是专业人士。
– 研究显示，OpenAI的GPT模型在法律问题上产生错误信息的概率超过50%。
– OpenAI计划推出收入分享模式以鼓励开发者，但目前开发者尚未直接获利。
– 为了有效进行内容审核，OpenAI需要实施复杂的技术和人工审核体系。