GPU加速AI工具合集:优化性能与效率

kompute

kompute

KomputeGPU加速

通用GPU计算框架,支持AMD、Qualcomm和NVIDIA显卡

ailia-models

ailia-models

ailia SDKAI模型

跨平台AI推理SDK,支持多种编程语言和模型

recommenders-addons

recommenders-addons

TensorFlow Recommenders Addons推荐系统

大规模推荐系统中的动态嵌入技术增强体验

cucim

cucim

cuCIMRAPIDS

提升多维图像处理性能的开源库

ort

ort

ONNX Runtimeort

使用Rust实现的高性能ONNX Runtime包装器

wonnx

wonnx

WonnxONNX

基于Rust的多平台GPU加速ONNX推理工具

Open3D

Open3D

Open3D3D数据处理

支持快速开发的3D数据处理开源库

IQA-PyTorch

IQA-PyTorch

PyTorchIQA

纯Python和PyTorch图像质量评估工具箱

gpytorch

gpytorch

GPyTorchGaussian process

基于PyTorch实现的灵活高斯过程建模工具

onediff

onediff

onediffHF diffusers

扩散模型加速库

Omega-AI

Omega-AI

深度学习Omega-AI

Java深度学习框架,支持多模型构建与GPU加速

NeMo-Curator

NeMo-Curator

NeMo CuratorGPU加速

提供GPU加速的大型语言模型数据集优化与管理解决方案

vits-simple-api

vits-simple-api

vits-simple-api人工智能

多功能语音合成和转换API

llama2-webui

llama2-webui

Llama-2模型llama2-wrapper

全平台支持的Llama 2智能Web界面

PowerInfer

PowerInfer

PowerInfer大语言模型

消费级GPU上大型语言模型高效推理引擎

DALI

DALI

NVIDIA DALIGPU加速

加速深度学习应用的GPU加速数据加载与预处理库

pytorch

pytorch

PyTorchGPU加速

能GPU加速的Python深度学习平台

languagemodels

languagemodels

Language ModelsPython

轻松实现低内存大语言模型推理的Python库

video-subtitle-extractor

video-subtitle-extractor

Video-subtitle-extractor字幕提取

多语言视频字幕批量提取工具,支持GPU加速和多种提取模式