GPU加速AI工具合集:优化性能与效率

stable-diffusion

stable-diffusion

Github模型

基于Habana Gaudi处理器实现高性能AI图像生成方案

Mistral-7B-OpenOrca-GGUF

Mistral-7B-OpenOrca-GGUF

GPU加速模型文件

Mistral 7B OpenOrca:高效文本生成的开源模型

WizardLM-Uncensored-SuperCOT-StoryTelling-30B-GGUF

WizardLM-Uncensored-SuperCOT-StoryTelling-30B-GGUF

模型文件量化

AI叙事模型兼容多种用户界面与库

Mistral-7B-v0.1-GGUF

Mistral-7B-v0.1-GGUF

Github开源项目

多平台支持的GGUF格式模型文件,提升推理效率

CodeLlama-7B-Instruct-GGUF

CodeLlama-7B-Instruct-GGUF

GPU加速GPTQ模型

多模式推理的新型代码生成工具

Wizard-Vicuna-13B-Uncensored-GGUF

Wizard-Vicuna-13B-Uncensored-GGUF

Github开源项目

Wizard Vicuna大语言模型的GGUF量化实现

f-coref

f-coref

共指消解Huggingface

高效指代消解模型显著提升自然语言处理效率

jina-bert-flash-implementation

jina-bert-flash-implementation

模型模型配置

将BERT与Flash-Attention结合的高效模型实现

Yi-Coder-9B-Chat-GGUF

Yi-Coder-9B-Chat-GGUF

模型GPU加速

多位宽量化的Yi-Coder-9B-Chat GGUF代码生成模型

Qwen2-7B-Instruct-GGUF

Qwen2-7B-Instruct-GGUF

Qwen2-7B-Instruct开源项目

高效量化AI模型 多平台支持 便捷本地部署

libvpl

libvpl

Intel VPLGPU加速

开源GPU加速视频处理库

vkdt

vkdt

vkdt原始图像处理

基于GPU加速的开源RAW图像和视频处理工具

raft

raft

RAFTGPU加速

可复用CUDA函数库加速向量搜索与机器学习

pytorch-onn

pytorch-onn

PyTorch光子集成电路

基于PyTorch的光子神经网络仿真与优化框架

torchquantum

torchquantum

TorchQuantum量子计算

快速可扩展的PyTorch量子计算框架

Waifu2x-Extension-GUI

Waifu2x-Extension-GUI

Waifu2x-Extension-GUI超分辨率

多功能AI图像视频超分辨率和帧率提升工具

docker-pytorch

docker-pytorch

PyTorchDocker

PyTorch开发环境的Docker镜像

redroid-doc

redroid-doc

redroidAndroid虚拟化

云端Android解决方案支持GPU加速

kitty

kitty

kitty终端模拟器

快速功能丰富的跨平台开源GPU驱动终端模拟器

llm-api

llm-api

LLM API大语言模型

灵活易用的跨平台大语言模型API框架