Cython BLIS: 从Python和Cython快速实现类BLAS操作，无需痛苦

本仓库提供Blis线性代数例程作为独立的Python C扩展。

目前，我们仅支持单线程执行，因为这实际上最适合我们的工作负载（机器学习推理）。

安装

你可以通过pip安装该软件包，首先确保pip、setuptools和wheel是最新版本：

pip install -U pip setuptools wheel
pip install blis

应该有可用的轮子，所以安装应该很快。如果你想从源码安装，并且你使用的是Windows系统，你需要安装LLVM。

为替代架构构建BLIS

提供的轮子应该适用于x86_64和osx/arm64架构。不幸的是，我们目前还不知道如何为替代架构提供不同的轮子，我们也无法提供一个适用于所有地方的单一二进制文件。因此，如果轮子不适用于你的CPU，你需要指定源代码分发，并使用BLIS_ARCH环境变量告诉Blis你的CPU架构。

a) 安装时自动检测CPU支持

pip install spacy --no-binary blis

b) 使用现有配置安装

提供一个来自支持的配置的架构。

BLIS_ARCH="power9" pip install spacy --no-binary blis

c) 使用通用架构支持安装

⚠️ generic没有针对任何特定CPU进行优化，速度极慢。仅推荐用于测试！

BLIS_ARCH="generic" pip install spacy --no-binary blis

d) 构建特定支持

为了编译Blis，cython-blis捆绑了特定架构的makefile脚本，这些脚本通过运行Blis构建系统并记录命令来编译。我们还没有所有架构的日志，因为有些架构我们无法访问。

点击这里查看架构列表。例如，以下是如何为Intel架构knl构建支持：

git clone https://github.com/explosion/cython-blis && cd cython-blis
git pull && git submodule init && git submodule update && git submodule status
python3 -m venv venv
source venv/bin/activate
pip install -U pip setuptools wheel
pip install -r requirements.txt
./bin/generate-make-jsonl linux knl
BLIS_ARCH="knl" python setup.py build_ext --inplace
BLIS_ARCH="knl" python setup.py bdist_wheel

希望这能为你构建一个支持你平台的轮子。然后你可以提交PR，包含blis/_src/make/linux-knl.jsonl和blis/_src/include/linux-knl/blis.h文件，这样你就可以运行：

BLIS_ARCH="knl" pip install --no-binary=blis

使用

提供了两种API：一个高级Python API，和直接的Cython访问，后者提供了融合类型、nogil的Cython绑定，用于底层Blis线性代数库。融合类型是一种简单的模板机制，允许进行一些编译时的泛型编程：

cimport blis.cy
A = <float*>calloc(nN * nI, sizeof(float))
B = <float*>calloc(nO * nI, sizeof(float))
C = <float*>calloc(nr_b0 * nr_b1, sizeof(float))
blis.cy.gemm(blis.cy.NO_TRANSPOSE, blis.cy.NO_TRANSPOSE,
             nO, nI, nN,
             1.0, A, nI, 1, B, nO, 1,
             1.0, C, nO, 1)

我们根据需要添加了绑定。如果库缺少你需要的一些函数，请提交拉取请求。

开发

要构建源码包，你应该运行以下命令：

./bin/update-vendored-source

这会使用flame-blis子模块为各种架构填充blis/_src文件夹。

更新构建文件

为了编译Blis源码，我们使用jsonl文件提供明确的编译器标志。我们通过运行Blis的构建系统，然后转换日志来构建这些jsonl文件。这避免了我们必须在Python中复制构建系统：我们只是使用jsonl来进行一系列子进程调用。为了支持新的操作系统/架构组合，我们必须提供jsonl文件和头文件。

Linux

Linux构建文件需要在manylinux2014 Docker容器内生成，以便与轮子构建过程兼容。

首先，安装docker。然后执行以下操作启动容器：

sudo docker run -it quay.io/pypa/manylinux2014_x86_64:latest

一旦进入容器，以下命令应该可以检出仓库并为通用架构构建jsonl文件：

mkdir /usr/local/repos
cd /usr/local/repos
git clone https://github.com/explosion/cython-blis && cd cython-blis
git pull && git submodule init && git submodule update && git submodule status
/opt/python/cp36-cp36m/bin/python -m venv env3.6
source env3.6/bin/activate
pip install -r requirements.txt
./bin/generate-make-jsonl linux generic --export
BLIS_ARCH=generic python setup.py build_ext --inplace
# 注意：不要复制到/tmp，docker cp无法从那里工作。
cp blis/_src/include/linux-generic/blis.h /linux-generic-blis.h
cp blis/_src/make/linux-generic.jsonl /

然后从一个新的终端，从容器中检索我们需要的两个文件：

sudo docker ps -l # 获取容器ID
# 当我在Vagrant中时，我需要通过cat -- 但是这样我最后会在顶部和底部得到虚拟行。唉。如果你没有这个问题，sudo docker cp可以直接工作，直接复制文件即可。
sudo docker cp aa9d42588791:/linux-generic-blis.h - | cat > linux-generic-blis.h
sudo docker cp aa9d42588791:/linux-generic.jsonl - | cat > linux-generic.jsonl