RecodeX 重构消息,小米MiMo大模型负责人罗福莉宣布,MiMo-V3即将采用全新架构,其核心HySparse 2正式发布。该架构针对智能体推理工作负载设计,包含KV桥接、KV重用等机制,并引入Token级别选择替代块级选择、用近期Token强制窗口替代独立SWA分支两项改进,使本地与全局Token共享同一KV缓存,预填充在自解码器完成时即可停止。

官方数据显示,在1M Token长度下预填充计算量降低5.02倍、KV缓存缩小4.5倍,MRCRv2和RULER-v2评分更高,AgentPPL与LongPPL更低。此前小米刚发布并开源MiMo-V2.6系列原生全模态模型。