RecodeX 重构消息,Respan(YC W24)发布开源Rust AI网关,采用解耦架构,将模型提供商、协议(MCP、实时语音)、模态(图像、视频)以及回退、PII脱敏、智能路由等功能全部做成插件,核心只负责事件分发。团队自2024年起基于LiteLLM构建网关,服务数千家机构,包装代码一度超过10万行;今年1月一次LiteLLM常规升级引发间歇性连接错误并被迫回滚,此后改为手动回移上游修复。新网关中新增提供商只需简短文件,例如Mistral适配仅22行,并支持通过OpenAI Realtime API调用Gemini Live、在网关内配置MCP工具。