GPU加速AI工具合集:优化性能与效率

guanaco-65B-GGUF

guanaco-65B-GGUF

模型开源项目

解析新型GGUF格式及其多平台兼容性

CodeLlama-13B-Instruct-GGUF

CodeLlama-13B-Instruct-GGUF

CodeLlama 13B InstructGithub

探索GGUF在高效处理与兼容性上的独特优势

phi-2-GGUF

phi-2-GGUF

下载和运行Github

以多平台兼容性著称的高效GGUF格式模型

Llama-3.2-3B-Instruct-uncensored-GGUF

Llama-3.2-3B-Instruct-uncensored-GGUF

Llama-3.2-3B-Instruct-uncensored-GGUF开源项目

高效文本生成的前沿模型格式

llama-30b-supercot-GGUF

llama-30b-supercot-GGUF

量化Github

Llama 30B Supercot GGUF:多种量化格式与GPU加速

Phind-CodeLlama-34B-v2-GGUF

Phind-CodeLlama-34B-v2-GGUF

开源项目Github

利用GGUF格式提升模型性能,兼容多平台GPU加速

EstopianMaid-13B-GGUF

EstopianMaid-13B-GGUF

EstopianMaid 13BGithub

量化格式的EstopianMaid-13B模型,兼容多平台与多UI

TinyLlama-1.1B-Chat-v0.3-GGUF

TinyLlama-1.1B-Chat-v0.3-GGUF

量化方法Github

探索TinyLlama 1.1B Chat v0.3的GGUF格式模型

Swallow-7B-Instruct-GGUF

Swallow-7B-Instruct-GGUF

GGUF格式开源项目

适用于多平台的高效量化模型

deepseek-coder-6.7B-instruct-GGUF

deepseek-coder-6.7B-instruct-GGUF

Deepseek Coder 6.7B InstructGithub

Deepseek全新GGUF格式 高效代码智能助手专注计算机科学

Xwin-LM-70B-V0.1-GGUF

Xwin-LM-70B-V0.1-GGUF

人工智能Github

提升AI模型兼容性的最新GGUF格式

CapybaraHermes-2.5-Mistral-7B-GGUF

CapybaraHermes-2.5-Mistral-7B-GGUF

兼容性Github

模型定量化文件与跨平台支持

guanaco-33B-GGUF

guanaco-33B-GGUF

Tim Dettmers开源项目

Guanaco 33B模型的高效量化格式,支持多平台部署

claude2-alpaca-13B-GGUF

claude2-alpaca-13B-GGUF

Claude2 Alpaca 13BGithub

量化GGUF格式模型文件的功能概述与应用方法

Wizard-Vicuna-7B-Uncensored-GGUF

Wizard-Vicuna-7B-Uncensored-GGUF

Github开源项目

了解GGUF格式的创新与多平台兼容性

BioMistral-7B-GGUF

BioMistral-7B-GGUF

开源项目Github

精准医学文本生成的多位量化模型

MythoMax-L2-Kimiko-v2-13B-GGUF

MythoMax-L2-Kimiko-v2-13B-GGUF

MythoMax L2 Kimiko v2 13BGithub

了解多种量化选项和GGUF格式特色

Phantom-0.5B

Phantom-0.5B

开源项目Github

快速运行模型的两步指南

Arabic-Orpo-Llama-3-8B-Instruct-GGUF

Arabic-Orpo-Llama-3-8B-Instruct-GGUF

开源项目Github

阿拉伯语AI文本生成:支持新GGUF格式的创新工具

dolphin-2.7-mixtral-8x7b-GGUF

dolphin-2.7-mixtral-8x7b-GGUF

Github开源项目

探索性能与多平台兼容性