RecodeX 重构消息,开发者成功在单张RTX 3090显卡上通过NVMe直连GPU绕过CPU运行Llama 3.1 70B模型,展示了在消费级硬件上优化AI推理的新方法。