华为昇腾实现Kimi K3.1 Pro首日适配,覆盖Atlas A3与昇腾950超节点
RecodeX 重构消息,华为宣布,vLLM Ascend与SGLang已支持在Atlas 800 A3、Atlas 900 A3 SuperPoD及昇腾950 SuperPoD上运行月之暗面AI的2.8万亿参数模型Kimi K3.1 Pro,且自模型发布首日起即可运行。
持续追踪Kimi K3.1 Pro开源相关报道与进展。
关注仅保存在当前浏览器和域名中,无需登录,不会自动跨设备同步。RecodeX 重构消息,华为宣布,vLLM Ascend与SGLang已支持在Atlas 800 A3、Atlas 900 A3 SuperPoD及昇腾950 SuperPoD上运行月之暗面AI的2.8万亿参数模型Kimi K3.1 Pro,且自模型发布首日起即可运行。
RecodeX 重构消息,AMD公开了一套单服务器配置方案,用8块Instinct MI355X GPU运行月之暗面(Moonshot AI)的Kimi K3.1 Pro模型。该方案针对推理与部署,不涉及模型训练。
AMD在技术资料中说明,该配置采用推理引擎ATOM与开源推理软件vLLM,并使用已公开的MXFP4权重以及用于预判下一个token的DSpark草稿模型,同时给出了在AMD开发环境中的实测结果。
RecodeX 重构消息,月之暗面公布Kimi K3.1 Pro的模型权重,开发者可获取该版本模型的参数文件。此次发布延续了Kimi系列以开放权重方式交付新模型的节奏。