DALI

NVIDIA DALI 项目介绍

什么是 DALI？

NVIDIA DALI，全称为 Data Loading Library，是一个由 GPU 加速的数据加载和预处理库，旨在加速深度学习应用程序。DALI 提供了一套高度优化的模块，用于加载和处理图像、视频以及音频数据。其设计使其可以作为诸多流行深度学习框架中内置数据加载器和迭代器的可移植替代品。

DALI 的重要性

在进行深度学习训练时，需要执行复杂的多阶段数据处理流程，包括加载、解码、裁剪、调整大小以及其他多种数据增强操作。这些操作通常在 CPU 上执行，成为训练和推理的瓶颈，限制了性能和可扩展性。而 DALI 通过将数据预处理任务卸载到 GPU 上，有效解决了这一瓶颈问题。此外，DALI 拥有自己的执行引擎，旨在最大化输入流水线的吞吐量，用户无需额外处理预取、并行执行以及批处理等功能。

DALI 的优势

• 易于使用：提供基于 Python 的易用功能风格 API。
• 多格式支持：支持 LMDB、RecordIO、TFRecord、COCO、JPEG、WAV 等多种格式。
• 可移植性：可在 TensorFlow、PyTorch、PaddlePaddle、JAX 等框架间轻松切换。
• 支持 CPU 和 GPU 执行：在运行时灵活选择。
• 可扩展性：开发者可以创建自定义流水线甚至是用户专用的操作符。
• 性能加速：在图像分类（如 ResNet-50）、目标检测（如 SSD）以及自动语音识别（如 Jasper、RNN-T）模型训练中大幅提升性能。
• 与 NVIDIA Triton 推理服务器无缝集成。
• 开源：代码和更多资源可公开获取。

成功案例

• 在 Kaggle 的计算机视觉竞赛中，DALI 得到了高度评价。
• 用于最先进的姿势识别研究模型。
• 改进了高级计算基础设施中的资源利用率。
• 在 eBay 等公司，DALI 被用于优化主要模型。

安装 DALI

用户可以使用如下命令安装最新的 DALI 版本，该版本对应最新的 CUDA 版本（12.x）：

pip install nvidia-dali-cuda120

DALI 支持多种安装方式，并且已经预装在 NVIDIA GPU Cloud 上的 TensorFlow、PyTorch 和 PaddlePaddle 容器中。对于其他安装路径，如 TensorFlow 插件、早期 CUDA 版本以及具体的安装需求，用户可以参考官方 安装指南。

参与 DALI 开发

我们欢迎所有对 DALI 感兴趣的开发者参与贡献。大家可以按照 DALI 的贡献指南进行代码贡献或提出问题。对于初学者，也有贴有“外部贡献欢迎”的任务可供选择。

NVIDIA DALI 的开发离不开众多贡献者的努力，其中包括 Trevor Gale、Przemek Tredak、Simon Layton、Andrei Ivanov 和 Serge Panev。该项目在不断发展，欢迎所有对数据处理加速感兴趣的开发者加入进来，为其贡献力量。