RecodeX 重构消息,苹果正在开发一款暂定名为“Harbor”的应用,可将多台Mac组合成一台私有AI推理服务器,在本地运行开放权重的大语言模型,数据无需离开设备。该应用此前名为Fabric,据X平台用户Aaronp613透露,其操作界面极为友好,用户只需具备足够的算力和内存即可上手。Mac Studio被认为是适合此类AI工作的机型。
苹果开发Harbor应用,可将多台Mac组成本地AI推理服务器
后续报道
苹果旗下Claris测试Harbor应用,可将多台Mac组成本地AI推理集群
RecodeX 重构消息,苹果子公司Claris正在测试一款名为Harbor的应用,可将搭载Apple芯片的Mac变为私有AI推理服务器。该应用支持通过Thunderbolt 5连接多台Mac,将统一内存池化,从而运行超出单机容量的更大模型,或承载更高并发请求。 Harbor可自动识别Thunderbolt 5连接的设备并组建集群,用户无需命令行或手动配置,即可在应用内浏览、下载并加载开放权重模型,数据全程留在本地硬件。该应用目前处于早期访问阶段,此前的App Store页面已被移除。 Claris以面向企业的数据库平台FileMaker闻名,Harbor注册页面要求填写公司名称,显示其可能偏向企业用户。Mac本地AI领域已有Exo、LM Studio等免费工具,Harbor的定价与推广方式尚不明确。