RecodeX 重构消息,NanoSLG是一款用于Llama-3.1-8B等大语言模型的最小化、教育性推理服务器,支持跨GPU的管道并行、张量并行和混合模式,以实现5倍加速。