RecodeX 重构消息,在两台配备vLLM的英伟达DGX工作站上部署GLM-5.3,实测推理吞吐达到607.8 tok/s。该结果展示了GLM-5.3在多节点DGX硬件与vLLM推理框架组合下的服务性能。
两台英伟达DGX工作站搭配vLLM,GLM-5.3推理速度达607.8 tok/s
AI 辅助判断积极仅供信息参考,不构成投资建议
原始信息来源Buzzingdeveloper.nvidia.com
查看原文 ↗RecodeX 重构消息,在两台配备vLLM的英伟达DGX工作站上部署GLM-5.3,实测推理吞吐达到607.8 tok/s。该结果展示了GLM-5.3在多节点DGX硬件与vLLM推理框架组合下的服务性能。