RecodeX 重构消息，H公司推出NeoMME系列双向编码器，包含260M和800M两种参数规模。该模型采用单Transformer架构，直接处理多语言文本和32×32图像块，无需预训练视觉塔或因果解码器。预训练采用掩码离散扩散目标，支持密集和后期交互两种检索头。在ViDoRe v3基准上，260M模型达到0.523 nDCG@10，索引压缩率达255倍，单张L40S上每秒可索引51.3页。作者也承认了文本检索方面的不足。
RecodeX 重构消息，H公司推出NeoMME系列双向编码器，包含260M和800M两种参数规模。该模型采用单Transformer架构，直接处理多语言文本和32×32图像块，无需预训练视觉塔或因果解码器。预训练采用掩码离散扩散目标，支持密集和后期交互两种检索头。在ViDoRe v3基准上，260M模型达到0.523 nDCG@10，索引压缩率达255倍，单张L40S上每秒可索引51.3页。作者也承认了文本检索方面的不足。