RecodeX 重构消息,一项新的模型压缩与端侧推理方案显示,35B参数大模型可在手机上运行,内存占用仅约3GB,且官方称推理效果无损。该方案通过降低模型运行时的内存需求,使大参数模型具备在移动设备本地部署的可能,无需依赖云端算力。