OpenAI 发现 GPT-4o 有时会做出一些非常奇怪的事情

OpenAI的最新生成AI模型GPT-4o在语音、文本和图像数据上进行了训练，因此在某些情况下表现出奇怪的行为，例如模仿与其对话的人的声音。根据OpenAI的新报告，GPT-4o在高背景噪声环境下偶尔会模仿用户的声音，但公司已经为这种行为增加了系统级的缓解措施。此外，GPT-4o可能会生成不适当的非语言声音效果，因此OpenAI实施了一系列过滤措施，以防止其侵犯音乐版权并避免传递不当内容。

关键点
– GPT-4o是OpenAI第一个在语音、文本和图像数据上进行训练的生成AI模型。
– 该模型在特定环境下会模仿用户的声音，特别是高背景噪声情况下。
– OpenAI为防止模型异常行为添加了系统级的缓解措施。
– GPT-4o在特定请求下可能生成不适当的声音效果，如尖叫和枪声。
– 报告提到GPT-4o受到音乐版权的限制，并未被允许演唱。
– OpenAI承认其模型在训练时可能使用了受版权保护的材料，但主张使用合理使用的权利。
– 整体上，报告显示GPT-4o通过各种削减和保护措施变得更为安全。