RecodeX 重构消息,首届SGLang峰会上,英伟达、AMD、英特尔三家芯片厂商与Google、Meta、Thinking Machines Lab、Cloudflare、Modal、RadixArk共同成为SGLang联盟的9家创始成员,将参与制定这款开源AI推理引擎的未来路线图。峰会现场参会人数超过2000人。
联盟成员每年举行两次路线图会议,但最终技术决策和代码合并权仍由SGLang维护团队掌握。SGLang官方称目前已有332家机构采用该项目;Meta披露,迁移至SGLang后其大规模生产环境的GPU资源节省超过一半。
峰会还公布了SGLang v1.0的开发方向,重点是提升生产环境稳定性与兼容性,正式版本仍在开发中;同时推出AWS Trainium芯片的公开预览支持,并与英特尔合作优化其CPU、GPU和加速器。强化学习框架Miles v0.2也已发布。