RecodeX 重构消息,Bartowski发布了一个针对模型量化末端的imatrix数据集,该公共语料库专注于聊天模板和工具使用场景。数据显示,未使用imatrix时,Qwen3.6-35B-A3B模型在Q2_K量化级别下的BFCL得分下降了约28分。
Bartowski发布imatrix数据集改善模型量化精度
AI 辅助判断中性仅供信息参考,不构成投资建议
原始信息来源Runtimewireruntimewire.com
查看原文 ↗RecodeX 重构消息,Bartowski发布了一个针对模型量化末端的imatrix数据集,该公共语料库专注于聊天模板和工具使用场景。数据显示,未使用imatrix时,Qwen3.6-35B-A3B模型在Q2_K量化级别下的BFCL得分下降了约28分。