每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成,并以非盈利为基础运营。
论文版权归作者及相关机构所有,分享时请注明出处。

Jina-reranker-v3:列表文档重新排序的最后但不晚的交互

Created by
  • Haebom

作者

王峰、李雨晴、肖韩

大纲

Jina-reranker-v3 是一个多语言列表式重排序器,拥有 0.6B 参数,引入了“最后但不迟到”的交互。与 ColBERT 等迟到交互模型不同,它将因果注意力应用于同一上下文窗口内的查询和所有候选文档,从而在从每个文档的最终标记中提取上下文嵌入之前实现丰富的交互。该模型实现了 61.94 nDCG@10 的 SOTA 性能,同时比同类模型小得多。

Takeaways,Limitations

通过“最后但不迟到”的交互模型实现查询和文档之间的丰富交互。
与具有相同性能的其他模型相比,其尺寸更小(0.6B 参数),效率更高。
在 BEIR 基准上实现最先进的性能。
Limitations 在论文中没有明确提及(仅从摘要无法确定)。
👍