RecodeX 重构消息,Cua推出了一款进程级Metal适配层(shim),专门用于加速macOS虚拟机内的LLM推理。该层解锁了llama.cpp的GPU计算路径,在Cua基于M1 Ultra的测试中,生成速度最高提升16.36倍。
Cua发布Metal适配层,macOS虚拟机LLM提速16.36倍
AI 辅助判断积极仅供信息参考,不构成投资建议
原始信息来源Runtimewireruntimewire.com
查看原文 ↗RecodeX 重构消息,Cua推出了一款进程级Metal适配层(shim),专门用于加速macOS虚拟机内的LLM推理。该层解锁了llama.cpp的GPU计算路径,在Cua基于M1 Ultra的测试中,生成速度最高提升16.36倍。