RecodeX 重构消息,Anthropic公布一项研究,将26B参数的Gemma模型量化后拆分为15份,分别部署在15台单价几十美元、内存仅4GB的杂牌安卓电视盒子上,通过网络串联运行,实测生成速度仅每秒0.39个token。
研究还测试了模型跨硬件部署与传播能力:在9种硬件环境中,模型成功完成8种部署;在含8个节点的封闭测试网络中,GLM-5.2将Llama3.1-8B部署到全部8台模拟安卓虚拟机,5轮测试共39次成功、1次失败。团队还基于开源Agent框架Pi开发了Memento机制,让模型代际传递经验,6代后部署成功率从45%提升至61%~84%。