RecodeX 重构消息,高通与AI私有云企业Cirrascale合作,向部分客户开放Dragonfly AI200推理加速器的评估,客户可通过云环境测试自身AI工作负载在该芯片上的表现。
Dragonfly AI200是高通首款机架级人工智能解决方案,单卡配备768GB LPDDR5X内存,支持PCIe Gen6纵向扩展与RoCE横向扩展。单个140kW液冷ORv3机架由56张卡组成,总内存达43TB,内存带宽0.414PB/s,可在单一机架内运行10T级超大模型推理,总持有成本更低。
RecodeX 重构消息,高通与AI私有云企业Cirrascale合作,向部分客户开放Dragonfly AI200推理加速器的评估,客户可通过云环境测试自身AI工作负载在该芯片上的表现。
Dragonfly AI200是高通首款机架级人工智能解决方案,单卡配备768GB LPDDR5X内存,支持PCIe Gen6纵向扩展与RoCE横向扩展。单个140kW液冷ORv3机架由56张卡组成,总内存达43TB,内存带宽0.414PB/s,可在单一机架内运行10T级超大模型推理,总持有成本更低。