RecodeX 重构消息,Cactus发布新一代端侧智能体模型Needle 2,单文件仅14MB,参数规模4500万(2bit压缩),运行完整会话只需28MB内存。模型在树莓派5上解码速度达每秒500 tokens,在Meta Quest 3S、Apple Vision Pro等VR设备上为400至1500 tokens,在三星A系列等200美元以下手机上为300至700 tokens。Needle 2新增结构化提取功能,可将schema作为工具传入并直接输出结构化结果,并可在Mac/PC上数分钟至数小时内完成微调。其在工具调用与移动设备使用基准上与体积大5至70倍的模型互有胜负。