企业级应用
AMD 与 NVIDIA 推理基准测试:谁是赢家?——每百万 Token 的性能与成本 MI300X、MI325X、H100、H200、B200、MI355X、VLLM、SGLang、TRT-LLM、ROCm CI 覆盖不足、AMD 租赁价格虚高
本文信息来源:semianalysis 作者:Kimbo Chen,Dylan Patel,Daniel Nishball 和 Ivan Chiam 长期以来,业界一直声称 AMD 的 AI 服务器在总拥有成本(TCO)方面能够实现比 Nvidia 更优的推理性能…