RecodeX 重构消息,在AkashML上运行推理的实测显示,衡量AI芯片的关键已不是单芯片算力速度,而是一块GPU能同时服务多少用户。一项新指数给出对比:英伟达GB300的8位浮点运算性能约为H100的2.5倍,单芯片推理容量约为H100的25倍。报告同时指出,内存容量与芯片间互联带宽是当前推理能力的瓶颈。