RecodeX 重构消息,一篇教程展示了如何使用llmcompressor对指令调优LLM进行FP8、GPTQ和SmoothQuant量化压缩与基准测试,比较了不同策略的磁盘大小、延迟、吞吐量和困惑度。