RecodeX 重构消息,MACaQ后训练量化方法采用四比特权重与激活,在64分钟内完成对1220亿参数模型的量化。该方法在困惑度指标上追平Llama-3-8B的最佳结果,而量化耗时仅为后者的十一分之一。