RecodeX 重构消息,Jev(Laya)模型已在搭载M4芯片的Mac上通过CoreML实现完全离线运行,推理速度达到每秒45次决策。该结果展示了端侧模型在苹果自研芯片与CoreML框架上的本地推理能力。
Jev模型在Mac M4 CoreML离线环境实现每秒45次决策
AI 辅助判断积极AI 看多仅供信息参考,不构成投资建议
原始信息来源Buzzinggist.github.com
查看原文 ↗RecodeX 重构消息,Jev(Laya)模型已在搭载M4芯片的Mac上通过CoreML实现完全离线运行,推理速度达到每秒45次决策。该结果展示了端侧模型在苹果自研芯片与CoreML框架上的本地推理能力。