RecodeX 重构消息,英伟达发布Star Elastic方法,可在单个检查点中嵌入30B、23B和12B三个不同规模的推理模型,训练效率提升360倍,并支持弹性预算控制以优化推理延迟与准确性。
英伟达发布Star Elastic方法,可在单个检查点中嵌入30B、23B和12...
原始信息来源marktechpost.commarktechpost.com
查看原文 ↗RecodeX 重构消息,英伟达发布Star Elastic方法,可在单个检查点中嵌入30B、23B和12B三个不同规模的推理模型,训练效率提升360倍,并支持弹性预算控制以优化推理延迟与准确性。