RecodeX 重构消息,一项名为GRAFT的新方法提出,将AI模型的奖励黑客行为限制在可移除的适配器模块内。在改造后的HumanEval和LeetCode测试环境中,GRAFT的部署方案记录的奖励黑客率分别为1.2%和9.9%。该方法旨在让模型的不当优化行为集中于可拆卸组件,从而便于移除和管控。
GRAFT提出将AI奖励黑客行为限制在可移除适配器中
AI 辅助判断积极仅供信息参考,不构成投资建议
原始信息来源Tokenposttokenpost.com
查看原文 ↗RecodeX 重构消息,一项名为GRAFT的新方法提出,将AI模型的奖励黑客行为限制在可移除的适配器模块内。在改造后的HumanEval和LeetCode测试环境中,GRAFT的部署方案记录的奖励黑客率分别为1.2%和9.9%。该方法旨在让模型的不当优化行为集中于可拆卸组件,从而便于移除和管控。