RecodeX 重构消息,小红书Dots团队自研DoSA稀疏注意力方案,通过构造入选阈值下界与候选分数上界,提前过滤约97%不可能进入Top-K的候选token,在完全保留原始Top-K选择结果的前提下,仅对剩余候选做全索引头精确打分,并优化GPU执行流程以规避零散计算开销。

测试显示,在约100万token上下文长度下,Dots3-Note-preview、GLM-5.2和DeepSeek-V3.2的首token延迟较各自SGLang基线分别降低约37%、46%和48%,Indexer本身的加速效果显著优于现有同类方案。