RecodeX 重构消息,trycua项目发布技术博客,介绍在Apple Silicon的macOS虚拟机中实现GPU直通,使llama.cpp的大模型推理速度提升11至16倍。该方案让虚拟机直接访问GPU,为本地AI推理提供更高性能。