RecodeX 重构消息,惠普企业(HPE)表示,其内部AI编码平台通过将AI编码代理的重复性任务放在公司私有云中处理,使自身令牌成本降低了30%至50%。

HPE将复杂的规划任务交给性能最强的模型,而代码生成、测试和修改等重复性工作则由公司内部运行的开源权重模型完成。负责分配请求的网关会依据任务难度、数据敏感度、预算和响应延迟来选择模型。

该内部AI平台采用LiteLLM网关和预算控制,在混合Azure与HPE私有云AI(PCAI)环境中运行超过150个模型。