RecodeX 重构消息,利用libfabric、DMA-BUF和HCCL技术,在云端通过Peer Direct突破主机内存瓶颈,显著提升Gaudi分布式训练性能。
利用libfabric、DMA-BUF和HCCL技术,在云端通过Peer Dir...
原始信息来源towardsdatascience.comtowardsdatascience.com
查看原文 ↗RecodeX 重构消息,利用libfabric、DMA-BUF和HCCL技术,在云端通过Peer Direct突破主机内存瓶颈,显著提升Gaudi分布式训练性能。