ARES - 先进的对抗性机器学习库

ARES - 先进的对抗性机器学习库

ARES (Adversarial Robustness Evaluation for Safety)是一个专注于对抗性机器学习研究的Python库。它旨在对图像分类和目标检测模型的对抗性鲁棒性进行基准测试,并通过鲁棒训练引入防御对抗攻击的机制。

主要特性

ARES具有以下突出特点:

1. 基于PyTorch开发,充分利用了深度学习框架的优势。

2. 支持对分类模型进行多种对抗性攻击,包括FGSM、PGD、DeepFool等。

3. 能够对目标检测模型进行对抗性攻击,扩展了评估范围。

4. 提供鲁棒训练方法以增强模型的鲁棒性,并提供多个预训练检查点。

5. 支持分布式训练和测试,提高了大规模实验的效率。

安装使用

ARES的安装过程如下:

1. 创建conda环境(可选):

conda create -n ares python==3.10.9
conda activate ares

2. 克隆代码并安装依赖:

git clone https://github.com/thu-ml/ares2.0
cd ares2.0
pip install -r requirements.txt
mim install mmengine==0.8.4
mim install mmcv==2.0.0 
mim install mmdet==3.1.0
pip install -v -e .

快速上手

• 对图像分类模型进行对抗性鲁棒性评估,请参考classification。

• 对目标检测模型进行对抗性鲁棒性评估,请参考detection。

• 了解鲁棒训练方法,请参考robust-training。

文档

ARES提供了详细的教程和API文档,包括攻击分类模型、目标检测模型以及鲁棒训练的策略。

引用

如果您在研究中使用了ARES,请引用以下论文:

@inproceedings{dong2020benchmarking,
  title={Benchmarking Adversarial Robustness on Image Classification},
  author={Dong, Yinpeng and Fu, Qi-An and Yang, Xiao and Pang, Tianyu and Su, Hang and Xiao, Zihao and Zhu, Jun},
  booktitle={Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)},
  pages={321--331},
  year={2020}
}

ARES为对抗性机器学习研究提供了强大的工具支持。它不仅能够全面评估模型的鲁棒性,还提供了增强模型抵抗对抗攻击能力的方法。无论是进行基准测试还是开发新的防御技术,ARES都是一个值得信赖的选择。

ARES的开发得到了学术界和工业界的广泛关注。它不仅在计算机视觉领域发挥重要作用,在自然语言处理、语音识别等其他机器学习应用中也有潜在的应用价值。随着对抗性机器学习研究的不断深入,ARES也将持续更新和完善,为构建更安全、更可靠的AI系统贡献力量。