RecodeX 重构消息,英伟达RTX Spark与苹果Mac Studio分别在端侧实现1200亿参数和近万亿参数大模型的本地部署,个人AI PC由此进入千亿参数时代。两者均采用MoE架构搭配高带宽统一内存的技术路径,可降低云端推理成本并避免敏感数据外传,面向专业开发者和重度创作者。目前这类产品价格仍较高,随着统一内存技术推进,成本有望逐步下降。
英伟达RTX Spark与苹果Mac Studio实现千亿参数大模型端侧部署
AI 辅助判断积极AI 看多仅供信息参考,不构成投资建议
原始信息来源Readhubreadhub.cn
查看原文 ↗