RecodeX 重构消息,Rock Matrix开源了基于Qwen3.5-4B构建的EdgeRock-4B模型,该模型由Rock Matrix与香港科技大学、卡内基梅隆大学合作开发。在256K上下文长度下,EdgeRock-4B的KV缓存固定为72 MiB,而Qwen3.5-4B的KV缓存为8 GiB。该模型吞吐量达到Qwen3.5-4B的6.42倍,同时保留了大部分推理能力评分。
Rock Matrix开源EdgeRock-4B,256K上下文KV缓存降至72MiB
AI 辅助判断积极AI 看多仅供信息参考,不构成投资建议
原始信息来源Pandailypandaily.com
查看原文 ↗