RecodeX 重构消息,开源项目Edge0发布Edge0-145B与Edge0-120B两款模型,并配套统一推理框架和部署工具。其中Edge0-145B号称是全球首个可在个人电脑本地流畅运行的1450亿参数开源模型。
团队从底层架构、训练、加载到调度四个层面进行创新,采用稀疏专家架构、端侧协同训练、三层存储智能流水线以及CPU与GPU高效协同等技术,在主流消费级PC上实现低内存占用、较高生成速度和超长上下文支持,内存占用降低约60%,可离线支撑复杂本地工作流。
目前模型权重与部署工具均已开源,Edge0已形成覆盖多模态的模型矩阵。