RecodeX 重构消息,OpenRelay宣布推出统一推理API,可在GPU、TPU和Trainium等多种芯片上运行。该公司表示,其网络每周处理1000亿个令牌,覆盖22个地区,并根据成本、延迟和可用性智能路由任务。