VideoProcessingFramework

VideoProcessingFramework

GPU加速视频处理框架 提供编解码和格式转换功能

VideoProcessingFramework是一个开源的视频处理框架,由C++库和Python绑定组成。它利用GPU硬件加速实现高效的视频解码、编码、转码以及色彩空间和像素格式转换。该框架支持将GPU内存中的视频帧直接导出为PyTorch张量,避免了额外的数据传输。适用于Linux和Windows平台,依赖NVIDIA驱动、CUDA和FFMPEG。目前正逐步被功能类似但API更简洁的PyNvVideoCodec库取代。

VideoProcessingFrameworkGPU加速视频处理NVIDIAPyNvVideoCodecGithub开源项目

弃用通知

VPF正在被PyNvVideoCodec库取代,该库具有更精简的API和pip install支持。这个库提供了易于使用的Python API,可以访问Video Codec SDK的核心C/C++视频编码/解码功能。

PyNvVideoCodec库以两种格式分发:通过PyPI的二进制分发和通过NVIDIA NGC的源代码分发。在这两种情况下,都可以使用单个pip install命令进行安装。该库在MIT许可下分发,并由NVIDIA官方支持。PyNvVideoCodec支持VPF的所有功能(除了软件编码/解码和表面格式转换)。

欲了解更多信息,请访问PyNvVideoCodec入门页面。

我们要感谢Roman Arzumanyan,VPF的原作者,感谢他多年来的支持和努力。Roman将继续在VALI上工作,该项目也利用NVIDIA GPU。


视频处理框架

VPF代表视频处理框架。它是一组C++库和Python绑定,为视频处理任务提供全硬件加速,如解码、编码、转码和GPU加速的色彩空间和像素格式转换。

VPF还支持将GPU内存对象(如解码后的视频帧)导出到PyTorch张量,无需主机到设备的复制。

先决条件

VPF在Linux(仅Ubuntu 20.04和Ubuntu 22.04)和Windows上运行

  • NVIDIA显示驱动程序:525.xx.xx或以上

  • CUDA工具包11.2或以上

    • CUDA工具包附带驱动程序,例如CUDA工具包12.0附带驱动程序530.xx.xx。在安装CUDA工具包时,您可以选择安装或跳过安装附带的驱动程序。请选择适当的选项。
  • FFMPEG

    • 编译带共享库的FFMPEG
    • 或从您信任的来源下载预编译的二进制文件。
      • 在VPF的"pip install"(在下面的章节中提到)期间,您需要提供FFMPEG安装目录的路径。
    • 或者您可以安装系统FFMPEG包(例如,在Ubuntu上运行apt install libavfilter-dev libavformat-dev libavcodec-dev libswresample-dev libavutil-dev
  • Python 3及以上版本

  • 通过Visual Studio或Visual Studio工具安装C++工具链。

    • 推荐版本是Visual Studio 2017及以上版本 (仅限Windows)

Linux

我们推荐Ubuntu 20.04,因为它附带了足够新的FFmpeg系统包。 如果您想从源代码构建FFmpeg,可以按照以下链接进行操作: https://docs.nvidia.com/video-technologies/video-codec-sdk/12.0/ffmpeg-with-nvidia-gpu/index.html

# 安装依赖项 apt install -y \ libavfilter-dev \ libavformat-dev \ libavcodec-dev \ libswresample-dev \ libavutil-dev\ wget \ build-essential \ git # 安装CUDA工具包(如果尚未安装) wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.0-1_all.deb sudo dpkg -i cuda-keyring_1.0-1_all.deb sudo apt-get update sudo apt-get install -y cuda # 确保将nvcc添加到您的$PATH(通常CUDA安装已经完成此操作) export PATH=/usr/local/cuda/bin:$PATH # 安装VPF pip3 install git+https://github.com/NVIDIA/VideoProcessingFramework # 或者如果您克隆了此仓库 pip3 install .

要检查VPF是否正确安装,请运行以下Python脚本

import PyNvCodec

如果通过Nvidia Container Runtime使用Docker, 请确保启用video驱动程序功能:https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/user-guide.html#driver-capabilities 可以通过容器中的NVIDIA_DRIVER_CAPABILITIES环境变量或--gpus命令行参数来实现(例如 docker run -it --rm --gpus 'all,"capabilities=compute,utility,video"' nvidia/cuda:12.1.0-base-ubuntu22.04)。

请注意,一些示例有额外的依赖项需要通过pip安装(pip install .[samples])。 使用PyTorch的示例将需要一个可选扩展,可以通过以下方式安装

pip install src/PytorchNvCodec # 如果需要,安装Torch扩展(可选),需要先安装"torch"

解决这些问题后,您应该能够使用本地pip安装运行make run_samples_without_docker

Windows

# 指明FFMPEG安装路径(包含"bin"子文件夹中的DLL、"include"和"lib") $env:SKBUILD_CONFIGURE_OPTIONS="-DTC_FFMPEG_ROOT=C:/path/to/your/ffmpeg/installation/ffmpeg/" pip install .

要检查VPF是否正确安装,请运行以下Python脚本

import PyNvCodec

请注意,一些示例有额外的依赖项(pip install .[samples])需要通过pip安装。 使用PyTorch的示例将需要一个可选扩展,可以通过以下方式安装

pip install src/PytorchNvCodec # 如果需要,安装Torch扩展(可选),需要先安装"torch"

Docker

为了方便起见,我们提供了位于docker的Docker镜像,您可以使用它轻松安装所有示例的依赖项(需要安装dockernvidia-docker

DOCKER_BUILDKIT=1 docker build \ --tag vpf-gpu \ -f docker/Dockerfile \ --build-arg PIP_INSTALL_EXTRAS=torch \ . docker run -it --rm --gpus=all vpf-gpu

PIP_INSTALL_EXTRAS可以是pyproject.tomlproject.optional-dependencies下列出的任何子集。

文档

可以从此仓库生成视频处理框架的文档:

pip install . # 安装视频处理框架 pip install src/PytorchNvCodec # 如果需要,安装Torch扩展(可选),需要先安装"torch" pip install sphinx # 安装文档工具sphinx cd docs make html

然后您可以用浏览器打开_build/html/index.html

社区支持

如果您没有找到所需的信息,或者有进一步的问题或问题,欢迎加入NVIDIA的开发者社区。我们有专门的类别涵盖与视频处理和编解码器相关的各种主题。

论坛也是一个我们很乐意听到您如何在项目中使用VPF的地方。

编辑推荐精选

Vora

Vora

免费创建高清无水印Sora视频

Vora是一个免费创建高清无水印Sora视频的AI工具

Refly.AI

Refly.AI

最适合小白的AI自动化工作流平台

无需编码,轻松生成可复用、可变现的AI自动化工作流

酷表ChatExcel

酷表ChatExcel

大模型驱动的Excel数据处理工具

基于大模型交互的表格处理系统,允许用户通过对话方式完成数据整理和可视化分析。系统采用机器学习算法解析用户指令,自动执行排序、公式计算和数据透视等操作,支持多种文件格式导入导出。数据处理响应速度保持在0.8秒以内,支持超过100万行数据的即时分析。

AI工具使用教程AI营销产品酷表ChatExcelAI智能客服
TRAE编程

TRAE编程

AI辅助编程,代码自动修复

Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。

热门AI工具生产力协作转型TraeAI IDE
AIWritePaper论文写作

AIWritePaper论文写作

AI论文写作指导平台

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

数据安全AI助手热门AI工具AI辅助写作AI论文工具论文写作智能生成大纲
博思AIPPT

博思AIPPT

AI一键生成PPT,就用博思AIPPT!

博思AIPPT,新一代的AI生成PPT平台,支持智能生成PPT、AI美化PPT、文本&链接生成PPT、导入Word/PDF/Markdown文档生成PPT等,内置海量精美PPT模板,涵盖商务、教育、科技等不同风格,同时针对每个页面提供多种版式,一键自适应切换,完美适配各种办公场景。

热门AI工具AI办公办公工具智能排版AI生成PPT博思AIPPT海量精品模板AI创作
潮际好麦

潮际好麦

AI赋能电商视觉革命,一站式智能商拍平台

潮际好麦深耕服装行业,是国内AI试衣效果最好的软件。使用先进AIGC能力为电商卖家批量提供优质的、低成本的商拍图。合作品牌有Shein、Lazada、安踏、百丽等65个国内外头部品牌,以及国内10万+淘宝、天猫、京东等主流平台的品牌商家,为卖家节省将近85%的出图成本,提升约3倍出图效率,让品牌能够快速上架。

iTerms

iTerms

企业专属的AI法律顾问

iTerms是法大大集团旗下法律子品牌,基于最先进的大语言模型(LLM)、专业的法律知识库和强大的智能体架构,帮助企业扫清合规障碍,筑牢风控防线,成为您企业专属的AI法律顾问。

SimilarWeb流量提升

SimilarWeb流量提升

稳定高效的流量提升解决方案,助力品牌曝光

稳定高效的流量提升解决方案,助力品牌曝光

Sora2视频免费生成

Sora2视频免费生成

最新版Sora2模型免费使用,一键生成无水印视频

最新版Sora2模型免费使用,一键生成无水印视频

下拉加载更多