RecodeX 重构消息,一台体积接近机顶盒的桌面设备,内置上百GB统一内存,断网状态下即可运行千亿参数大模型,无需机房与机柜,插电即用且数据不出本地,这类被称为AI Box的产品正成为苹果、英伟达、AMD、微软、英特尔共同争夺的新赛道。

苹果Mac Studio的M3 Ultra版本最高可选512GB统一内存、819GB/s带宽,整机持续功耗480W;9月22日发售的M5 Ultra款带宽提升至1.2TB/s,国行46999元起,官方称可运行6000亿参数以上模型。英伟达DGX Spark采用GB10芯片,128GB统一内存、273GB/s带宽,美国官网售价4699美元,宏碁、华硕、戴尔、技嘉、惠普、联想、微星七家OEM同步推出同芯片整机。AMD Ryzen AI Max+ 395将128GB统一内存、256GB/s带宽做进55—120W功耗区间,下一代Ryzen AI Max 400统一内存上限将达192GB。微软6月Build大会发布Surface RTX Spark Dev Box,热设计功耗压至100W,标称本地可跑1200亿参数模型。