开发者发布Sturnus：基于延迟的LLM负载均衡器

RecodeX 重构消息，开发者发布开源工具Sturnus，一款基于延迟的LLM负载均衡器。它以单一静态二进制形式运行，按各LLM提供商的延迟与可用性分配流量，并将分给其他提供商的流量用作探测，使恢复正常的提供商自动重新获得流量。开发者称已在生产环境运行一段时间，并强调其设计旨在避免部分LLM网关因功能面过大而引发的安全问题。