jina-colbert-v2

jina-colbert-v2项目介绍

项目概述

jina-colbert-v2是由Jina AI开发的一个多语言后期交互检索模型。它是基于jina-colbert-v1的改进版本,不仅保留了原有的8192 token输入上下文、提高的效率和性能以及可解释性等特点,还增加了新的功能和性能提升。

主要特点

1. 多语言支持:支持数十种语言,在主要全球语言上表现出色。

2. Matryoshka嵌入:允许用户灵活地在效率和精度之间进行权衡。

3. 检索性能:相比英语专用的jina-colbert-v1-en,检索性能有显著提升。

4. 多个版本:提供三个不同嵌入维度的版本(128维、96维和64维),以适应不同的需求。

使用方法

使用jina-colbert-v2模型需要安装einops和flash_attn库。用户可以通过以下三种方式之一来使用该模型:

1. PyLate库
2. RAGatouille库
3. Stanford ColBERT库

每种方法都提供了简单的代码示例,方便用户快速上手。

评估结果

jina-colbert-v2在多个检索基准测试中表现出色:

1. 在BEIR基准测试中,平均NDCG@10得分为0.531,优于jina-colbert-v1和ColBERTv2.0。

2. 在MS MARCO段落检索任务中,MRR@10得分为0.396,与ColBERTv2.0相当。

3. 在多语言基准测试MIRACLE中,平均NDCG@10得分为0.627,远高于mDPR的零样本性能。

4. 在mMARCO多语言基准测试中,平均MRR@10得分为0.313,优于BM-25和ColBERT-XM。

Matryoshka表示基准

jina-colbert-v2的Matryoshka嵌入在不同维度(128、96、64)下都保持了较好的性能,在BEIR和MSMARCO基准测试中表现稳定。

其他相关模型

Jina AI还提供了一系列其他嵌入模型,包括:

• 英语基础嵌入模型
• 中英双语模型
• 德英双语模型
• 西英双语模型
• 多语言重排序模型
• 英语多模态(文本-图像)嵌入模型

这些模型可以满足用户在不同场景下的检索需求。

结语

jina-colbert-v2作为一个强大的多语言后期交互检索模型,在保持高效性能的同时,还提供了灵活的使用选项和广泛的语言支持。无论是学术研究还是实际应用,它都是一个值得关注和使用的优秀工具。