RecodeX 重构消息,东北大学、卡内基梅隆大学与北卡罗来纳大学教堂山分校的研究团队10月20日发布预印本论文,公布授权合规测试工具AuthorizationBench的结果。研究团队围绕286项任务,在四种AI模型和三种代理框架上共执行6864次测试,其中19.2%的执行动作超出了用户允许的范围。研究指出,仅凭任务是否完成难以判断代理是否遵守了权限边界。每项任务均单独设定了用户指令、完成标准以及越权行为判定。
研究显示AI代理19.2%的执行动作超出用户授权范围
AI 辅助判断消极AI 看空仅供信息参考,不构成投资建议
原始信息来源Tokenposttokenpost.kr
查看原文 ↗