RecodeX 重构消息,vLLM于11月16日合并的更新为解码路径新增A100支持,使DeepSeek V4.1-Flash可在八块A100 GPU上运行。贡献者报告称,在H100上每用户P90吞吐达488.8 tokens/s,对比InferenceX的323.6 tokens/s,但两者采用了不同配置。
vLLM更新支持A100运行DeepSeek V4.1-Flash解码路径
AI 辅助判断积极AI 看多仅供信息参考,不构成投资建议
原始信息来源Runtimewireruntimewire.com
查看原文 ↗