RecodeX 重构消息,美团LongCat-2.0开源,同步开放国产卡推理代码:7月6日,美团将万亿参数大模型LongCat-2.0正式开源。LongCat-2.0总参数1.6T,平均激活约48B,架构上引入LongCat稀疏注意力和N-gram Embedding,提升长上下文处理效率与token级表示能力的同时,结合动态激活进一步强化了代码理解、生成以及执行的表现。本次开源同步提供BF16、FP8以及INT8等多精度版本,全面覆盖不同算力平台的部署需求,同时将针对国产算力极致优化的推理成果同步开源。这意味着,即使手上没有最新算力,也能基于现有硬件将LongCat-2.0稳定跑起来。
美团LongCat-2.0开源,同步开放国产卡推理代码:7月6日,美团将万亿参数...
后续报道
7月6日,美团将万亿参数大模型LongCat-2.0正式开源。LongCat-2...
7月6日,美团将万亿参数大模型LongCat-2.0正式开源。LongCat-2.0总参数1.6T,平均激活约48B,架构上引入LongCat稀疏注意力和N-gram Embedding,提升长上下文处理效率与token级表示能力的同时,结合动态激活进一步强化了代码理解、生成以及执行的表现。本次开源同步提供BF16、FP8以及INT8等多精度版本,全面覆盖不同算力平台的部署需求,同时将针对国产算力极致优化的推理成果同步开源。这意味着,即使手上没有最新算力,也能基于现有硬件将LongCat-2.0稳定跑起来。
美团LongCat-2.0开源 同步开放国产卡推理代码:今天,美团将万亿参数大模...
美团LongCat-2.0开源 同步开放国产卡推理代码:今天,美团将万亿参数大模型LongCat-2.0正式开源。LongCat-2.0总参数1.6T,平均激活约48B。针对显存与带宽受限的国产算力芯片,在模型架构、芯片适配到部署策略上进行了深度协同优化。