Linkup Research发布149M参数开源稀疏嵌入模型SPARSEUP
RecodeX 重构消息,Linkup Research发布开源稀疏嵌入模型SPARSEUP,基于1.49亿参数的ModernBERT骨干网络构建。该模型在BEIR-13上取得56.4的nDCG@10得分,Linkup称这是其已知150M参数以下公开稀疏编码器的最佳成绩。
模型通过logit shift、每token top-12扩展和大小写折叠保持向量稀疏性;配合Seismic索引,单次查询可在约380微秒内实现超过97%的召回率。模型以Apache 2.0协议开源发布。