RecodeX 重构消息,AMD公开了一套单服务器配置方案,用8块Instinct MI355X GPU运行月之暗面(Moonshot AI)的Kimi K3.1 Pro模型。该方案针对推理与部署,不涉及模型训练。

AMD在技术资料中说明,该配置采用推理引擎ATOM与开源推理软件vLLM,并使用已公开的MXFP4权重以及用于预判下一个token的DSpark草稿模型,同时给出了在AMD开发环境中的实测结果。