RecodeX 重构消息,ExpertCache是一个新的开源工具,声称能在16GB内存的M1 Pro上运行完整的GPT-OSS 120B模型(63GB)。项目托管于GitHub的amos-labs/expertcache,通过技术手段降低大模型硬件门槛。具体实现原理和性能表现尚未披露更多细节。
ExpertCache发布:16GB M1 Pro可运行GPT-OSS 120B
AI 辅助判断积极仅供信息参考,不构成投资建议
原始信息来源Hnrssgithub.com
查看原文 ↗RecodeX 重构消息,ExpertCache是一个新的开源工具,声称能在16GB内存的M1 Pro上运行完整的GPT-OSS 120B模型(63GB)。项目托管于GitHub的amos-labs/expertcache,通过技术手段降低大模型硬件门槛。具体实现原理和性能表现尚未披露更多细节。