DirectML

DirectML 是一个高性能、硬件加速的 DirectX 12 机器学习库。DirectML 为常见的机器学习任务提供 GPU 加速,支持广泛的硬件和驱动程序,包括 AMD、Intel、NVIDIA 和 Qualcomm 等厂商的所有支持 DirectX 12 的 GPU。

作为独立使用时,DirectML API 是一个低级的 DirectX 12 库,适用于高性能、低延迟的应用程序,如框架、游戏和其他实时应用。DirectML 与 Direct3D 12 的无缝互操作性,以及其低开销和跨硬件的一致性,使其成为加速机器学习的理想选择,尤其是在需要高性能、结果可靠性和跨硬件可预测性至关重要的场景。

关于 DirectML 的更多信息,请参阅 DirectML 简介。

DirectML 入门
DirectML 示例
DxDispatch 工具
基于 DirectML 的 Windows ML
基于 DirectML 的 ONNX Runtime
支持 DirectML 的 PyTorch
支持 DirectML 的 TensorFlow
反馈
外部链接
- 文档
- 更多信息
贡献

访问 DirectX 登陆页面获取更多 DirectX 开发者资源。

DirectML 入门

DirectML 作为 Windows 10 的系统组件分发,在 Windows 10 版本 1903 (10.0; Build 18362) 及更新版本的 Windows 10 操作系统中可用。

从 DirectML 版本 1.4.0 开始,DirectML 也以独立的可再发行包的形式提供(参见 Microsoft.AI.DirectML),这对于希望使用固定版本 DirectML 的应用程序,或在较旧版本的 Windows 10 上运行时很有用。

硬件要求

DirectML 需要支持 DirectX 12 的设备。近几年发布的几乎所有商用显卡都支持 DirectX 12。兼容硬件的例子包括:

AMD GCN 第一代(Radeon HD 7000 系列)及以上
Intel Haswell (第四代酷睿) HD 集成显卡及以上
NVIDIA Kepler (GTX 600 系列)及以上
高通 Adreno 600 及以上

面向应用程序开发人员

DirectML 提供原生 C++ DirectX 12 API。头文件和库文件(DirectML.h/DirectML.lib)可在可再发行 NuGet 包中获得,也包含在 Windows 10 SDK 版本 10.0.18362 或更新版本中。

面向用户、数据科学家和研究人员

DirectML 作为后端内置于多个框架中,如 Windows ML、ONNX Runtime 和 TensorFlow。

更多信息请参见以下章节:

基于 DirectML 的 Windows ML
基于 DirectML 的 ONNX Runtime
支持 DirectML 的 TensorFlow
支持 DirectML 的 PyTorch

DirectML 示例

DirectML C++ 示例代码位于 Samples 目录下。

HelloDirectML: 一个最小的 "hello world" 应用程序,执行单个 DirectML 运算符。
DirectMLSuperResolution: 一个使用 DirectML 执行基本超分辨率模型的示例,可实时将视频从 540p 升级到 1080p。
yolov4: YOLOv4 是一个对象检测模型,能够在图像中识别多达 80 种不同类别的对象。这个示例包含了使用 DirectML 的完整端到端实现,能够在用户提供的视频流上实时运行。

DirectML Python 示例代码位于 Python/samples 目录下。这些示例需要 PyDirectML,这是一个开源的 DirectML Python 投影库,可以从 Python/src 构建并安装到 Python 执行环境中。更多详情请参阅 Python/README.md 文件。

MobileNet: 改编自 ONNX MobileNet 模型。MobileNet 将图像分类为 1000 个不同的类别。它在速度和大小上都非常高效,非常适合移动应用。
MNIST: 改编自 ONNX MNIST 模型。MNIST 使用卷积神经网络预测手写数字。
SqueezeNet: 基于 ONNX SqueezeNet 模型。SqueezeNet 执行在 ImageNet 数据集上训练的图像分类。它非常高效,并提供准确度良好的结果。
FNS-Candy: 改编自 Windows ML 风格迁移模型示例,FNS-Candy 在普通图像上重新应用特定的艺术风格。
Super Resolution: 改编自 ONNX 超分辨率模型,Super-Res 对输入图像进行上采样和锐化,以细化细节并提高图像质量。

DxDispatch 工具

DxDispatch 是一个简单的命令行可执行文件,用于启动 DirectX 12 计算程序(包括 DirectML 运算符),无需编写所有的 C++ 样板代码。

基于 DirectML 的 Windows ML

Windows ML (WinML) 是一个高性能、可靠的 API，用于在 Windows 设备上部署硬件加速的 ML 推理。DirectML 为 Windows ML 提供 GPU 后端支持。

可以使用 LearningModelDevice 和任何一种 DirectX DeviceKinds 在 Windows ML 中启用 DirectML 加速。

更多信息，请参阅 Windows ML 入门。

Windows 机器学习概述 (docs.microsoft.com)
Windows 机器学习 GitHub
WinMLRunner，一个使用 WinML 和 DirectML 执行 ONNX 模型的工具

基于 DirectML 的 ONNX Runtime

ONNX Runtime 是一个跨平台的推理和训练加速器，兼容多种流行的 ML/DNN 框架，包括 PyTorch、TensorFlow/Keras、scikit-learn 等。

DirectML 作为 ONNX Runtime 的可选执行提供程序，在 Windows 10 上运行时提供硬件加速。

有关入门的更多信息，请参阅使用 DirectML 执行提供程序。

基于 DirectML 的 PyTorch

基于 DirectML 的 PyTorch 可以在各种 DirectX 12 兼容硬件上进行复杂机器学习模型的训练和推理。这是通过 PyTorch 的插件 torch-directml 实现的。

基于 DirectML 的 PyTorch 支持最新版本的 Windows 和 Windows Subsystem for Linux，并可作为 PyPI 包下载。有关 torch-directml 入门的更多信息，请参阅 Microsoft Learn 上的 Windows 或 WSL 2 指南。

基于 DirectML 的 TensorFlow

TensorFlow 是一个流行的开源机器学习平台，是机器学习模型训练的领先框架。

TensorFlow 1.15 的 DirectML 加速目前处于公开预览阶段。基于 DirectML 的 TensorFlow 可以在各种 DirectX 12 兼容硬件上进行复杂机器学习模型的训练和推理。

基于 DirectML 的 TensorFlow 支持最新版本的 Windows 10 和 Windows Subsystem for Linux，并可作为 PyPI 包下载。有关入门的更多信息，请参阅 GPU 加速 ML 训练 (docs.microsoft.com)

反馈

我们期待听到您的声音！

对于基于 DirectML 的 TensorFlow 问题、错误和反馈；或一般 DirectML 问题和反馈，请提交问题或直接联系我们：askdirectml@microsoft.com。
对于基于 DirectML 的 PyTorch 问题、错误和反馈；或一般 DirectML 问题和反馈，请提交问题或直接联系我们：askdirectml@microsoft.com。
对于 Windows ML 问题，请在 microsoft/Windows-Machine-Learning 提交 GitHub 问题或直接联系我们：askwindowsml@microsoft.com。
对于 ONNX Runtime 问题，请在 microsoft/onnxruntime 提交问题。