RecodeX 重构消息,美国艾伦人工智能研究所(Ai2)宣布开源其混合专家(MoE)训练技术栈。该机构表示,这套系统能以更低开销训练更大规模的稀疏模型。Ai2同时披露,其已完成1.2万亿参数规模的系统性能测试,但该结果衡量的是系统训练能力,并非一个已完成的模型。
Ai2开源MoE训练栈 完成1.2万亿参数系统测试
AI 辅助判断积极AI 看多仅供信息参考,不构成投资建议
原始信息来源Runtimewireruntimewire.com
查看原文 ↗RecodeX 重构消息,美国艾伦人工智能研究所(Ai2)宣布开源其混合专家(MoE)训练技术栈。该机构表示,这套系统能以更低开销训练更大规模的稀疏模型。Ai2同时披露,其已完成1.2万亿参数规模的系统性能测试,但该结果衡量的是系统训练能力,并非一个已完成的模型。