RecodeX 重构消息,FastFlowLM发布v1.0.13版本,新增名为oga-hipep的后端,使AI模型可在AMD GPU上运行,Windows平台支持13款模型。该后端基于ONNX Runtime GenAI与AMD的hip-ep运行时,已包含在标准Windows ZIP和MSI安装包中,对应模型以-oga-hipep标签结尾。

用户可通过flm run或flm serve命令运行GPU模型或启动本地服务器。首次执行时,约137MiB的hip-ep运行时会下载至用户配置目录。开发团队同时说明,该GPU执行路径仍需依赖NPU。