RecodeX 重构消息,Multiverse Computing提出一种新的模型剪枝方法,通过搜索相互作用的模块移除组合,而非逐层单独排序。该方法在极端压缩条件下取得最大增益,在MMLU基准测试中较基线高出近23分。
Multiverse Computing剪枝法在MMLU上领先基线近23分
AI 辅助判断积极仅供信息参考,不构成投资建议
原始信息来源Runtimewireruntimewire.com
查看原文 ↗RecodeX 重构消息,Multiverse Computing提出一种新的模型剪枝方法,通过搜索相互作用的模块移除组合,而非逐层单独排序。该方法在极端压缩条件下取得最大增益,在MMLU基准测试中较基线高出近23分。