每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成,并以非盈利为基础运营。
论文版权归作者及相关机构所有,分享时请注明出处。

Jina-reranker-v3:列表文档重新排序的最后但不晚的交互

Created by
  • Haebom

作者

王峰、李雨晴、肖韩

大纲

Jina-reranker-v3 是一个多语言列表式重排序器,拥有 0.6B 个参数,引入了“最后但不迟到”的交互方法。与 ColBERT 等迟到交互模型不同,它在查询和所有候选文档之间应用因果注意力机制,从而在从每个文档的最终标记中提取上下文嵌入之前实现丰富的交互。该模型实现了 61.94 nDCG@10 的 SOTA BEIR 性能,同时显著小于其他性能相似的模型。

Takeaways, Limitations

Takeaways:
我们通过“最后但不迟到”的交互方法在减小模型尺寸的同时实现了高性能。
它在 BEIR 基准上实现了 61.94 nDCG@10 的最先进性能。
提供多语言支持。
Limitations:
仅从摘要信息很难确定具体的 Limitations。
👍