RecodeX 重构消息,Shuo Yang、Xiaoze Fan及其合作者报告,利用CPU计算、32 GB RTX 5090和192 GiB系统内存,在单个RTX 5090上实现了284B DeepSeek模型22-25 tok/s的解码速度。该结果展示了在消费级硬件上运行大型模型的潜力。
FreeToken在RTX 5090上实现284B模型22-25 tok/s解码
AI 辅助判断积极AI 看多仅供信息参考,不构成投资建议
原始信息来源Runtimewireruntimewire.com
查看原文 ↗