<p align="center"> <img height=15% width=25% src="https://i.imgur.com/Zdzb2QZ.png" style="max-width: 100%;border-radius: 25%;"> <h1 align="center">贝叶斯主动学习 (Baal) <br> <a href="https://github.com/baal-org/baal/actions/workflows/pythonci.yml"> <img alt="Python CI" src="https://yellow-cdn.veclightyear.com/0a4dffa0/499b0f19-b000-4a82-bd2d-52e056f59440.svg"/> </a> <a href="https://baal.readthedocs.io/en/latest/?badge=latest"> <img alt="文档状态" src="https://readthedocs.org/projects/baal/badge/?version=latest"/> </a> <a href="https://join.slack.com/t/baal-world/shared_invite/zt-z0izhn4y-Jt6Zu5dZaV2rsAS9sdISfg"> <img alt="Slack" src="https://yellow-cdn.veclightyear.com/0a4dffa0/96df5f81-7d28-4a1b-8053-0a78bba70998.svg?logo=slack"/> </a> <a href="https://github.com/Elementai/baal/blob/master/LICENSE"> <img alt="许可证" src="https://yellow-cdn.veclightyear.com/0a4dffa0/8cf07763-0e49-4871-9be2-e78789d8ca07.svg"/> </a> <a href="https://calendly.com/baal-org/30min"> <img alt="办公时间" src="https://yellow-cdn.veclightyear.com/0a4dffa0/72b8574c-2604-4262-9602-fc5ec7bed0a9.svg"/> </a> <a href="https://pepy.tech/project/baal"> <img alt="下载量" src="https://static.pepy.tech/badge/baal"/> </a> </h1> </p>

Baal是一个支持工业应用和研究用例的主动学习库。

在 https://baal.readthedocs.io 阅读文档。

我们的论文可以在arXiv上阅读。其中包括在生产环境中使用主动学习的技巧和窍门。

要快速了解Baal和贝叶斯主动学习，请参阅以下链接：

Baal最初由ElementAI开发（2021年被ServiceNow收购），但现在已独立。

安装和要求

Baal需要Python>=3.8。

使用pip安装Baal：pip install baal

我们使用Poetry作为包管理器。从源代码安装Baal：poetry install

使用Baal的论文

用于生产的贝叶斯主动学习，系统研究和可重用库 (Atighehchian等，2020)
Synbols：使用合成数据集探测学习算法 (Lacoste等，2020)
主动学习能否预先缓解公平性问题？ (Branchaud-Charron等，2021)
使用MaskAL的主动学习减少训练Mask R-CNN的标注工作 (Blok等，2021)
用于深度主动学习的随机批量获取 (Kirsch等，2022)

什么是主动学习？

主动学习是机器学习的一种特殊情况，其中学习算法能够与用户（或其他信息源）交互式地查询，以获取新数据点所需的输出（要更深入地理解这个概念，请参考我们的教程）。

Baal框架

目前，Baal支持以下方法来进行主动学习：

蒙特卡洛Dropout (Gal等，2015)
MCDropConnect (Mobiny等，2019)
深度集成
半监督学习

如果你想提出新方法，请提交一个issue。

蒙特卡洛Dropout方法是贝叶斯神经网络的已知近似。在这种方法中，Dropout层在训练和测试时都被使用。通过多次运行模型并随机丢弃权重，我们使用heuristics.py中的一种不确定性度量来计算预测的不确定性。

该框架主要由四个部分组成，如下图所示：

ActiveLearningDataset
Heuristics
ModelWrapper
ActiveLearningLoop

首先，将你的数据集包装在我们的ActiveLearningDataset类中。这将确保数据集被分为训练集和池集。池集代表尚未标记的训练集部分。我们提供了一个轻量级的对象 ModelWrapper，类似于 keras.Model，以便更容易地训练和测试模型。如果您的模型还没有准备好进行主动学习，我们提供了一些模块来帮助准备它们。

例如，MCDropoutModule 包装器会改变现有的 dropout 层，使其在训练和推理时都可以使用，而 ModelWrapper 则指定了在训练和推理时要运行的迭代次数。

最后，ActiveLearningLoop 会自动计算不确定性并标记池中最不确定的项目。

总之，您的脚本应该类似于这样：

dataset = ActiveLearningDataset(your_dataset)
dataset.label_randomly(INITIAL_POOL)  # 标记一些数据
model = MCDropoutModule(your_model)
wrapper = ModelWrapper(model, args=TrainingArgs(...))
experiment = ActiveLearningExperiment(
    trainer=wrapper, # Huggingface 或 ModelWrapper 用于训练
    al_dataset=dataset, # 主动学习数据集
    eval_dataset=test_dataset, # 评估数据集
    heuristic=BALD(), # 使用的不确定性启发式方法
    query_size=100, # 每轮标记的项目数量
    iterations=20, # 每个项目执行的 MC 采样次数
    pool_size=None, # 可选限制未标记池的大小
    criterion=None # 实验的停止标准
)
# 实验将运行直到所有项目都被标记
metrics = experiment.start()

完整的实验示例，请参见 experiments/vgg_mcdropout_cifar10.py。

重新运行我们的实验

docker build [--target base_baal] -t baal .
docker run --rm baal --gpus all python3 experiments/vgg_mcdropout_cifar10.py

在您的实验中使用 Baal

只需克隆仓库，然后创建类似于 experiments/vgg_mcdropout_cifar10.py 示例的实验脚本。确保使用 Baal 框架的四个主要部分。祝实验顺利！

贡献！

要贡献，请参阅 CONTRIBUTING.md。

我们是谁！

"既有激情，又有平和；既有宁静，又有情感；既有混沌，又有秩序。"

Baal 团队测试并实现最新的不确定性估计和主动学习论文。

当前维护者：

Parmida Atighehchian
Frédéric Branchaud-Charron
George Pearse

如何引用

如果您在项目中使用了 Baal，我们将非常感谢您使用以下 Bibtex 引用本库：

@misc{atighehchian2019baal,
  title={Baal, a bayesian active learning library},
  author={Atighehchian, Parmida and Branchaud-Charron, Frederic and Freyberg, Jan and Pardinas, Rafael and Schell, Lorne
          and Pearse, George},
  year={2022},
  howpublished={\url{https://github.com/baal-org/baal/}},
}