RecodeX 重构消息,字节Seed团队研究发现,DeepSeek-V4系列模型存在“相位敏感性”:同一信息在输入中位置不同,检索表现会出现周期性起伏。在128K长上下文“大海捞针”测试中,DeepSeek-V4-Flash-Base不同位置间准确率最大差距达40.2个百分点,V4-Pro-Base为34.8个百分点。
研究将原因指向DeepSeek-V4采用的分块KV Cache压缩技术,波动周期与压缩步长一致,V4为4个Token、V4.1为2个Token。团队以Qwen3-0.6B为基础复现实验,所有分块压缩模型均出现对应周期波动,全注意力基线模型则未出现。