苹果用4台Mac Studio跑通万亿参数模型,挑战英伟达推理叙事
RecodeX 重构消息,苹果方面展示了一套推理方案:仅用4台Mac Studio便成功运行万亿参数规模的大模型,以此对标英伟达在AI推理领域的算力方案。该演示强调Mac统一内存架构在超大模型推理上的可行性,被视为苹果在AI推理叙事上向英伟达发起挑战。
持续追踪🍎 苹果AI推理服务器相关报道与进展。
关注仅保存在当前浏览器和域名中,无需登录,不会自动跨设备同步。RecodeX 重构消息,苹果方面展示了一套推理方案:仅用4台Mac Studio便成功运行万亿参数规模的大模型,以此对标英伟达在AI推理领域的算力方案。该演示强调Mac统一内存架构在超大模型推理上的可行性,被视为苹果在AI推理叙事上向英伟达发起挑战。
RecodeX 重构消息,苹果正规划推出搭载自研芯片的AI推理服务器,可能重返服务器市场。该服务器面向AI开发者、企业和政府部门,或搭载两颗或四颗研发中的M8 Ultra芯片。首款AI服务器芯片内部代号「Baltra」,由苹果与博通合作开发,采用台积电3纳米N3E工艺和Chiplet架构。苹果还讨论了采用英伟达2025年发布的NVLink Fusion网络技术连接服务器中的M8芯片,实现定制芯片间及与英伟达GPU的高速互联。苹果上一次推出服务器是2002年的Xserve,2011年停售。Mac业务因AI企业批量采购需求强劲增长,是推动其进军企业级AI服务器的因素之一。消息传出后,苹果股价先跌后涨,盘前交易翻红并小幅上涨。
RecodeX 重构消息,苹果正在推进自研AI服务器芯片计划,该芯片基于M7 Ultra架构设计,预计最快于2029年推出。此举意味着苹果将进一步把AI算力基础设施纳入自研体系,减少对外部芯片供应商的依赖。
RecodeX 重构消息,苹果正考虑重返服务器市场,并已与英伟达就采用后者芯片进行洽谈。此举意味着苹果可能在自研芯片之外,引入英伟达的算力方案用于服务器产品。目前双方洽谈的具体产品、规模与时间表尚未披露。
RecodeX 重构消息,苹果正考虑重返服务器市场,并已与英伟达就使用网络技术进行洽谈。苹果计划推出的服务器预计于2029年上市,目标市场为人工智能推理领域。