RecodeX 重构消息,StartLux发布并开源首个面向决策模型的推理引擎,官方称其推理速度最高可达5.3倍。该引擎针对决策类模型的推理环节进行优化,以开源形式对外提供。此前DeepSeek的开源动作引发行业关注,StartLux此次发布延续了决策模型领域的开源趋势。
StartLux开源首个决策模型推理引擎,推理速度最高提升5.3倍
后续报道
StartLux开源决策模型推理引擎Prism,单卡H200提速5.3倍
RecodeX 重构消息,StartLux宣布开源专为决策模型重构的推理引擎Prism。该引擎在单张H200显卡上运行多问题任务时,速度最高提升5.3倍,平均延迟41毫秒,且输出与原始结果逐位一致。