RecodeX 重构消息,开发者用纯C语言编写的Microgpt在Apple M5芯片上实现了每秒1000万次(10M tps)的推理吞吐量。该性能数据展示了在特定硬件上优化小型语言模型推理的潜力,但未提供具体测试环境或基准细节。