RecodeX 重构消息,Kimi K3(2.8T参数)模型在MacBook Pro上通过四块SSD流式加载运行,推理速度约为每秒1个token。该演示展示了超大模型在消费级硬件上的运行可能性,但速度较慢,实际应用受限。
Kimi K3 2.8T模型在MacBook Pro上以1 token/s速度运行
AI 辅助判断中性仅供信息参考,不构成投资建议
原始信息来源Hnrssgithub.com
查看原文 ↗RecodeX 重构消息,Kimi K3(2.8T参数)模型在MacBook Pro上通过四块SSD流式加载运行,推理速度约为每秒1个token。该演示展示了超大模型在消费级硬件上的运行可能性,但速度较慢,实际应用受限。