RecodeX 重构消息,EMNLP 2026接收的一篇论文提出多模态检索头(MMRetHeads)概念,用于识别长上下文视觉语言模型中负责定位图文证据的注意力头。研究覆盖6个模型及多任务、多上下文长度,发现文本和图像检索共享部分注意力头。屏蔽实验表明,这些检索头对模型访问证据有因果作用,屏蔽后模型在检索、长文档问答及多模态推理任务中表现显著下降。研究团队利用这些头的证据信号进行多模态文档检索,无需额外训练检索器,在MMDocIR上Qwen3-VL-8B的页面级和版面级Recall@1较最强基线分别提升7.7和6.3个百分点。