IoTeX测试Mac本地AI共享算力,Mac mini跑27B模型达40+ tokens/s
RecodeX 重构消息,IoTeX生态项目RapidMLX与qspro_ai正在测试“Share Compute”方案,尝试让Mac本地AI从仅服务机主扩展为对外提供真实API流量。初步内部测试数据显示,Mac mini(M4 Pro)运行Qwen3.8-27B模型的速度超过40 tokens/s,云端同模型为50+ tokens/s。目前仍处于早期内部测试阶段,团队邀请拥有48GB以上内存Mac的用户参与测试。