RecodeX 重构消息,Hugging Face贡献者的测试显示,在H100上使用SDPA路径时,Qwen3的单步耗时从2.06秒降至1.02秒。在Trainium2上,修改后的代码也能正常完成步进计时,而此前的实现路径会直接崩溃。
Hugging Face修复TRL中Qwen3的SDPA性能问题,H100单步耗时减半
AI 辅助判断积极AI 看多仅供信息参考,不构成投资建议
原始信息来源Runtimewireruntimewire.com
查看原文 ↗RecodeX 重构消息,Hugging Face贡献者的测试显示,在H100上使用SDPA路径时,Qwen3的单步耗时从2.06秒降至1.02秒。在Trainium2上,修改后的代码也能正常完成步进计时,而此前的实现路径会直接崩溃。