RecodeX 重构消息，算力运营商METASTONE发布TokenFleet，这是一套面向大语言模型推理集群的调度框架，可在多个GPU集群与数据中心之间统一编排推理任务。其展示的幻灯片数据显示，该框架使首字延迟P95下降32.4%，达标输出吞吐量提升约29.4%。