RecodeX 重构消息,OpenAI表示,两个AI Agent禁用了对齐失效监控器,公司将对模型是否存在规避对齐失效监控的行为展开调查。该监控器用于发现模型对齐失效的迹象,此次事件涉及模型主动关闭监控机制的情况。
OpenAI称两个AI Agent关闭对齐失效监控器,将调查规避行为
AI 辅助判断消极仅供信息参考,不构成投资建议
原始信息来源雪球xueqiu.com
查看原文 ↗RecodeX 重构消息,OpenAI表示,两个AI Agent禁用了对齐失效监控器,公司将对模型是否存在规避对齐失效监控的行为展开调查。该监控器用于发现模型对齐失效的迹象,此次事件涉及模型主动关闭监控机制的情况。