:warning: 重要 :warning:

发生了什么

之前在这里的代码已经应 AMD 的要求被撤下。 该代码是通过电子邮件获得 AMD 批准后发布的。AMD 法律部门现在表示这不具有法律约束力,因此进行了回滚。 在有人问之前:我没有收到任何来自 NVIDIA 的法律威胁或任何通信。

接下来

在这一点上,再多一个敌对公司也无关紧要。我计划从 AMD 之前的代码库开始重建 ZLUDA。该项目的资金正在筹集中,我希望能在未来几周内分享细节。它将有不同的范围,某些功能将不会回归。 我本想让它成为一个惊喜,但其中一个功能是支持 NVIDIA GameWorks。我在蝙蝠侠:阿卡姆骑士中成功实现了这一功能,但我从未完成它,现在这些代码将永远不会见天日:

设置	ZLUDA 关闭	ZLUDA 开启

欢迎在这里讨论该主题

---

---

ZLUDA

ZLUDA 是一个用于 Intel GPU 的 CUDA 即插即用替代品。ZLUDA 允许在 Intel GPU 上运行未修改的 CUDA 应用程序,性能接近原生(详见下文)。它可以与当前集成的 Intel UHD GPU 一起使用,并将与未来的 Intel Xe GPU 一起使用

性能

ZLUDA 性能已在搭载 Intel UHD 630 的 GeekBench 5.2.3 上进行了测试。 一次测量使用 OpenCL 进行,另一次测量使用 CUDA 在 Intel GPU 上伪装成(相对较慢的) NVIDIA GPU,借助 ZLUDA 实现。两次测量使用相同的 GPU。

以下性能已归一化为 OpenCL 性能。110% 表示 ZLUDA 实现的 CUDA 在 Intel UHD 630 上快 10%。

ZLUDA - Geekbench.com 上的详细结果

OpenCL - Geekbench.com 上的详细结果

总的来说,ZLUDA 在 GeekBench 中大约慢 2%。

结果解释

• 为什么 ZLUDA 在某些基准测试中更快?
  这还没有精确地归因于某一个原因,但很可能是以下几个因素的综合:
  • ZLUDA 使用 Level 0,这通常是一个比 OpenCL 更低级、高性能的 API
  • 与前一点相关,目前 ZLUDA 不支持异步执行。这给了我们在 GeekBench 这样的基准测试中一个不公平的优势。GeekBench 专门使用 CUDA 同步 API
  • 有一组 GPU 指令在 NVIDIA 硬件和 Intel 硬件上都可用,但在 OpenCL 中没有暴露。我们正在比较针对 NVIDIA GPU 优化的代码与更通用的 OpenCL 代码。这是一个幸运的巧合(也归功于底层的 Intel Graphics Compiler),这些代码在 Intel GPU 上也能很好地工作
• 为什么 OpenCL 在 Canny 和 Horizon Detection 中更快?
  CUDA 基准测试的作者使用了 CUDA 函数 atomicInc 和 atomicDec,这些函数在 NVIDIA 卡上有直接的硬件支持,但在 Intel 卡上没有硬件支持。它们必须在软件中模拟,这限制了性能
• 为什么 ZLUDA 在剩余的基准测试中较慢?
  原因未知。最有可能的是,在某些测试中我们从次优的 NVIDIA GPU 代码编译,而在其他测试中 ZLUDA 本身正在生成次优的 Intel GPU 代码。例如,SFFT 在 PR #22 之前甚至更慢

详情

• ZLUDA 是 CUDA 的即插即用替代品吗?
  是的,但某些应用程序使用 CUDA 的方式使其与 ZLUDA 不兼容
• 项目的状态如何?
  这个项目是一个概念验证。目前唯一能工作的就是 Geekbench。它极其有 bug 且不完整。你不应该依赖它做任何严肃的事情
• 这是 Intel 的项目吗?是 NVIDIA 的项目吗?
  不,这是一个私人项目
• 性能如何?
  性能可以接近类似编写的 OpenCL 代码的性能(见上一节的 GeekBench 结果)。NVIDIA GPU 和 Intel GPU 有不同的架构和功能集。因此,某些 NVIDIA 功能必须在 ZLUDA 中模拟,会有性能损失。此外,ZLUDA 的性能永远不会高于专门为 Intel GPU 优化的代码的性能
• 它与 AMD HIP 或 Intel DPC++ 兼容性工具包有何不同?
  两者都是需要程序员努力将应用程序移植到相关 API 的移植工具包。使用 ZLUDA,现有应用程序可以在 Intel GPU 上"直接工作"(如果你幸运的话,ZLUDA 支持特定的 CUDA 子集)
• 支持哪些 Intel GPU?
  Intel Gen9 及更新版本(Skylake 及更新版本),这些版本受 Intel Level 0 支持
• ZLUDA 支持 AMD GPU 吗?
  目前肯定不支持,但从技术上讲可能是可行的

使用方法

警告:这是一个非常不完整的概念验证。它可能无法与你的应用程序一起工作。ZLUDA 目前只能与使用 CUDA Driver API 或静态链接的 CUDA Runtime API 的应用程序一起工作 - 完全不支持动态链接的 CUDA Runtime API

Windows

你应该安装最新的 Intel GPU 驱动程序。
像这样运行你的应用程序:

<ZLUDA_DIRECTORY>\zluda_with.exe -- <APPLICATION> <APPLICATIONS_ARGUMENTS>

Linux

你应该按照这里的说明安装最新的运行时驱动程序包: https://dgpu-docs.intel.com/installation-guides/index.html。
像这样运行你的应用程序:

LD_LIBRARY_PATH=<ZLUDA_DIRECTORY> <APPLICATION> <APPLICATIONS_ARGUMENTS>

构建

你应该安装相对较新版本的 Rust,然后只需在项目的主目录中执行:

cargo build --release

Linux

你应该按照这里的说明安装最新的运行时和开发者驱动程序包: https://dgpu-docs.intel.com/installation-guides/index.html。此外,你还应该安装 ocl-icd-opencl-dev(或等效包)。
如果你在 Linux 上构建,ZLUDA 构建完成后还必须为 ZLUDA 输出二进制文件创建符号链接(或重命名):

ln -s libnvcuda.so target/release/libcuda.so
ln -s libnvcuda.so target/release/libcuda.so.1
ln -s libnvml.so target/release/libnvidia-ml.so

贡献

如果你想开发 ZLUDA 本身,请阅读 CONTRIBUTING.md,其中包含如何设置依赖项和运行测试的说明

许可证

本软件采用 Apache 2.0 许可证或 MIT 许可证双重许可。详情请参阅 LICENSE-APACHE 或 LICENSE-MIT