Savant

Savant项目详细介绍

项目背景

Savant是一个开源的高性能计算机视觉框架，特别为使用Nvidia技术栈的数据中心和边缘设备开发而设计。它的目的是帮助开发实时、多媒体AI应用，并且可以构建动态和容错的推理流水线，利用最佳的Nvidia加速器解决方案。Savant基于DeepStream，提供构建推理流水线的高级抽象层，用户友好，灵活且具扩展性。无论是实时还是高负载的计算机视觉和视频分析应用，Savant都是一个理想的选择。

主要版本

Savant项目版本主要依赖于Nvidia的DeepStream和JetPack版本，目前常用的版本如下：

• 0.2.11 LTS版：适用于生产环境，兼容DeepStream 6.3，广泛支持多种硬件设备，如dGPU和Jetson硬件。
• 0.4.x 当前生产版本：包含新功能，适用于需要0.2.x和0.3.x版本没有功能的用户。
• 0.5.x 开发版本：整合了DeepStream 7.0，适合希望使用最新技术的用户。

适合人群

Savant专为需要实现高性能计算机视觉和视频分析的开发者而打造。借助Savant，开发者可以：

• 在Nvidia设备上实现最大性能，不论在边缘还是中心设备。
• 降低使用DeepStream技术构建动态流水线的时间成本，无需低层次编程。
• 构建易于维护和测试的应用程序，得益于完善的框架API。
• 利用不同模型和数据源创建异构流水线。
• 使用同一代码库构建混合边缘/数据中心应用。
• 利用OpenTelemetry和Prometheus监督和追踪流水线。
• 利用Replay功能实现按需和非线性处理。

运行平台

Savant需要Nvidia硬件支持，目前支持以下设备：

• Jetson Xavier NX/AGX
• Jetson Orin Nano/NX/AGX
• Nvidia Turing, Ampere, Ada, Hopper, Blackwell GPU

功能特点

Savant具有一系列功能，可加速高性能计算机视觉应用的开发：

• 高性能：基于最快的视频分析SDK DeepStream，即使是复杂的分割模型也能实时运行。
• 边缘与数据中心设备通用：可在Nvidia边缘设备和数据中心设备上运行，代码变动少。
• 云就绪：流水线运行在Docker容器中，支持OpenTelemetry和Prometheus监控。
• 低延迟和高容量处理：支持实时执行流水线或高容量模式，以最大化资源利用。
• 强大的API：通过高性能流API，自给自足地与外界通信。
• 高级数据协议：灵活使用视频和元数据传输协议。
• 开放遥测支持：利用OpenTelemetry实现精确仪表流水线。
• Prometheus支持：用于监控流水线性能和资源利用。

留言与讨论

Savant用户可通过Discord与开发团队交流，针对项目的任何问题都可获得帮助。

贡献与合作

我们欢迎任何有意向贡献和学习的新成员加入Savant项目。In-Sight团队是Bitworks Software的一部分，专注于高性能计算机视觉应用的开发，提供从数据标注到模型验证的全流程服务。

联系邮箱：info@bw-sw.com

通过上述内容，可以看到Savant的全面功能和应用场景，使其成为一个理想的框架，满足计算机视觉领域的多种需求。