tract: Sonos 的开源神经网络推理引擎

tract: 高效灵活的神经网络推理引擎

在当今人工智能快速发展的时代，神经网络模型在各个领域得到了广泛应用。然而，如何在不同的硬件平台上高效地部署和运行这些模型，仍然是一个具有挑战性的问题。为了解决这一难题，Sonos 公司开发了 tract - 一个开源的神经网络推理引擎，旨在提供高效、灵活且易于使用的深度学习模型部署解决方案。

tract 的核心特性

tract 是一个用 Rust 语言编写的神经网络推理工具包，具有以下几个突出特点：

1. 多格式支持：tract 可以读取并执行 ONNX（开放神经网络交换）和 NNEF（神经网络交换格式）格式的模型。这两种格式是目前业界广泛使用的标准，使得 tract 能够兼容多种深度学习框架训练出的模型。

2. 优化能力：tract 不仅可以加载模型，还能对模型进行优化，以提高其在目标硬件上的运行效率。

3. 跨平台性能：tract 设计之初就考虑到了在各种硬件平台上的性能表现，从嵌入式设备到高性能服务器，都能发挥出色的推理速度。

4. 轻量级设计：tract 采用"小而美"的设计理念，核心库非常精简，没有繁琐的依赖，这使得它特别适合在资源受限的环境中使用。

5. 扩展性：通过 tract-OPL（tract 操作符语言），tract 可以扩展支持更多的自定义操作符，满足特定应用场景的需求。

支持的模型和操作符

tract 在 ONNX 模型支持方面表现出色，目前已经通过了约 85% 的 ONNX 后端测试。所有 ONNX 测试套件中的"真实世界"集成测试都已通过，包括 bvlc_alexnet、densenet121、inception_v1、inception_v2、resnet50、shufflenet、squeezenet、vgg19 和 zfnet512 等知名模型。

在操作符支持方面，tract 实现并测试了大量常用的神经网络操作符，涵盖了从基础数学运算到复杂的卷积和循环神经网络操作。以下是一些重要的支持操作符：

• 基础运算：Add、Mul、Div、Sub、Pow 等
• 激活函数：Relu、Sigmoid、Tanh、Softmax 等
• 卷积相关：Conv、ConvTranspose、DepthToSpace 等
• 池化操作：MaxPool、AveragePool、GlobalAveragePool 等
• 归一化：BatchNormalization、InstanceNormalization、LRN 等
• 循环神经网络：LSTM、GRU、RNN 等
• 张量操作：Reshape、Transpose、Concat、Split 等
• 数学函数：Log、Exp、Sqrt、Sin、Cos 等

tract 支持从 ONNX 1.4.1（算子集 9）到 ONNX 1.13.0（算子集 18）的各个版本，这确保了它能够处理大多数现代深度学习模型。

tract 在实际应用中的表现

为了展示 tract 的实际性能，我们来看几个具体的应用案例：

1. 关键词检测在 Arm Cortex-M 微控制器上的应用

ARM 公司为展示 Cortex-M 系列的能力，提供了关键词检测的教程和预训练模型。虽然这些模型最终是为微控制器设计的，但 tract 也能够运行这些中间的 TensorFlow 模型。在 Raspberry Pi Zero 上，"CNN M" 模型的运行时间约为 70 微秒，而在 Raspberry Pi 3 上则只需 11 微秒。这展示了 tract 在低功耗设备上的出色性能。

2. Snips 唤醒词模型

Snips 公司使用 tract 来运行他们的唤醒词检测器。早期的基于分类的模型就能很好地运行，而 tract 的脉冲处理能力更是使得 WaveNet 模型能够在 Raspberry Pi Zero 上高效运行。这证明了 tract 在音频处理和语音识别领域的应用潜力。

3. Inception v3 模型性能对比

下表展示了 tract 在不同设备上运行 Inception v3 模型的性能，与 TensorFlow-lite 进行了对比：

这些数据清楚地表明，在多种嵌入式设备上，tract 的性能都优于或至少不弱于 TensorFlow-lite。特别是在较低端的设备上，tract 表现出明显的优势。

tract 的未来发展

尽管 tract 已经展现出了强大的能力，但其开发团队并未止步于此。他们正在持续改进和扩展 tract 的功能：

1. 持续优化性能：通过改进算法和利用硬件特性，进一步提高推理速度。
2. 扩大操作符支持：不断增加对新操作符的支持，以适应更多类型的神经网络模型。
3. 改进 NNEF 和 tract-OPL：完善 NNEF 支持，并通过 tract-OPL 扩展来填补 ONNX 和 NNEF 之间的差距。
4. 增强跨平台兼容性：确保 tract 能在更多种类的硬件和操作系统上高效运行。
5. 提供更多示例和文档：帮助开发者更容易地集成和使用 tract。

结语

tract 作为一个开源的神经网络推理引擎，展现出了卓越的性能和灵活性。它不仅支持主流的模型格式，还能在各种硬件平台上高效运行，从嵌入式设备到高性能服务器都能胜任。对于那些需要在资源受限环境中部署深度学习模型的开发者来说，tract 无疑是一个值得考虑的选择。

随着人工智能技术的不断发展，像 tract 这样的工具将在推动 AI 应用普及方面发挥越来越重要的作用。我们期待看到 tract 在未来带来更多创新，为更广泛的 AI 应用场景提供强大支持。

如果您对 tract 感兴趣，可以访问其 GitHub 仓库 了解更多信息，或者参与到这个开源项目的开发中来。让我们共同推动神经网络推理技术的进步，为 AI 的未来贡献一份力量！