RecodeX 重构消息,AMD与Meta公布在PyTorch中通过FlyDSL优化AMD GPU运算的联调结果。在单块AMD Instinct MI355X上进行的vLLM测试中,MXFP4条件下请求整体性能最高达到ATen基准的3.01倍。

两家公司10月21日发布的技术报告介绍了将FlyDSL接入Instinct MI350系列现有PyTorch算子的方法及性能测试结果。用户无需为受支持的算子单独调用定制内核,即可直接应用FlyDSL。

支持范围涵盖密集与分组矩阵乘(GEMM)、注意力、MXFP8与MXFP4缩放矩阵乘、RMSNorm及TopK等算子。