Rank-BM25：两行代码实现的搜索引擎

这是一个算法集合，用于查询一组文档并返回与查询最相关的文档。这些算法最常见的用途是，正如你可能已经猜到的，创建搜索引擎。

目前已实现的算法包括：

• Okapi BM25
• BM25L
• BM25+
• BM25-Adpt
• BM25T

这些算法来自这篇论文，该论文对每种方法进行了很好的概述，并对它们进行了相互比较。一个很好的内容是他们比较了不同类型的预处理，如词干提取与否、停用词去除与否等。如果你是这个领域的新手，这是一篇值得一读的好文章。

安装

安装这个包最简单的方法是通过pip，使用以下命令：

pip install rank_bm25

如果你想确保获得最新版本，你可以直接从github安装：

pip install git+ssh://git@github.com/dorianbrown/rank_bm25.git

使用方法

在这个例子中，我们将使用BM25Okapi算法，但其他算法的使用方式基本相同。

初始化

首先要做的是创建一个BM25类的实例，它会读入一个文本语料库并对其进行索引：

from rank_bm25 import BM25Okapi

corpus = [
    "Hello there good man!",
    "It is quite windy in London",
    "How is the weather today?"
]

tokenized_corpus = [doc.split(" ") for doc in corpus]

bm25 = BM25Okapi(tokenized_corpus)
# <rank_bm25.BM25Okapi at 0x1047881d0>

注意，这个包不会进行任何文本预处理。如果你想进行小写转换、停用词去除、词干提取等操作，你需要自己完成。

唯一的要求是该类接收一个字符串列表的列表，这些是文档的标记。

文档排序

现在我们已经创建了文档索引，我们可以给它查询并看看哪些文档最相关：

query = "windy London"
tokenized_query = query.split(" ")

doc_scores = bm25.get_scores(tokenized_query)
# array([0.        , 0.93729472, 0.        ])

值得注意的是，我们还需要对查询进行标记化，并应用与文档相同的预处理步骤，以进行公平的比较。

除了获取文档得分，你还可以直接检索最佳文档：

bm25.get_top_n(tokenized_query, corpus, n=1)
# ['It is quite windy in London']

就是这么简单！