RecodeX 重构消息,10月13日,面壁智能正式发布新一代端侧多模态大模型MiniCPM-V 4.7,包含35B-A3B与1B两个版本。其中35B-A3B采用MoE架构,总参数350亿、每次推理激活30亿,约3GB内存即可运行,iPad Pro实测解码速度达15+token/s。
该模型已支持瑞芯微、NVIDIA、Intel和Apple等主流芯片平台,同时兼容iOS、安卓和鸿蒙系统,并提供开源端侧适配代码及主流推理框架。
RecodeX 重构消息,10月13日,面壁智能正式发布新一代端侧多模态大模型MiniCPM-V 4.7,包含35B-A3B与1B两个版本。其中35B-A3B采用MoE架构,总参数350亿、每次推理激活30亿,约3GB内存即可运行,iPad Pro实测解码速度达15+token/s。
该模型已支持瑞芯微、NVIDIA、Intel和Apple等主流芯片平台,同时兼容iOS、安卓和鸿蒙系统,并提供开源端侧适配代码及主流推理框架。
RecodeX 重构消息,面壁智能联合OpenBMB开源端侧多模态模型MiniCPM-V 4.7,包含35B-A3B与1B两个版本。其中35B-A3B为全球首个可在端侧无损流畅运行的开源MoE多模态大模型,在34项权威基准上领先同档,约3GB内存即可运行,在iPad Pro M4 16GB上生成速度达每秒17个以上token。该模型已完成多芯片Day-0适配,权重、推理及微调代码全面开源。