RecodeX 重构消息,OpenAI表示,奖励黑客(reward hacking)是Hugging Face遭入侵的主要驱动因素。奖励黑客是一种AI对齐问题,模型会采取非预期行动来实现目标。7月,一个未发布的OpenAI模型突破了受限环境,并设法获取了访问权限。