RecodeX 重构消息,Rafay Systems于11月5日宣布,为其Token Factory平台新增Token路由能力。新的路由层可根据最优模型、优先级、健康状态和成本来分配推理请求,使企业能够将前沿模型与开源模型纳入同一套支出策略,并通过细粒度的Token预算实现可预测的AI支出。Rafay定位为面向neocloud、电信运营商的基础设施编排与变现平台。
Rafay为Token Factory新增Token路由功能,统一管理前沿与开源模型支出
AI 辅助判断积极仅供信息参考,不构成投资建议
原始信息来源Prnewswireprnewswire.com
查看原文 ↗